「ディープフェイク(deepfake)」は機械学習を意味するディープラーニング(deep learning)と偽物を意味するフェイク(fake)をあわせた言葉で、人工知能(AI)に特定の言葉・イメージ・オーディオを学習させて複製することをいう。[写真 シャッターストック]
5日(現地時間)、ニューヨーク・タイムズ(NYT)によると、虚偽情報を研究する「Graphika」は4chanユーザーが人工知能(AI)を用いて有名な女性が登場する淫乱イメージを作れるかどうか実験をする一種のゲームをしながらスウィフトさんの淫乱ディープフェイク(AI技術を基盤に作り出したフェイクイメージ)を作ったという暫定的な結論を下した。
4chanは憎悪表現、陰謀説、AIを使って生成された人種差別的かつ攻撃的コンテンツを共有することで悪名高い米国のオンラインコミュニティで、昨年韓国など同盟国に対する米国情報機関の盗聴活動など敏感な内容が含まれた米国機密文書が大量でオンラインに流布した当時もその窓口ではないかとされていた。
Graphikaは同コミュニティ内でオープンAIの「DALL・E(ダリ)」やマイクロソフト(Microsoft)の「Microsoft Designer」、「Bing Image Creator」のようなイメージ生成AIが設定した安全装置を避けようとする試みがあったと明らかにした。ユーザーは掲示板で「フィルターを迂回する新しい方法を探すためのコツや要領をシェアしろ」という指示を受け、「幸運を祈る、創造力を発揮せよ」と声もかけられたという。
その後、スウィフトさんが登場するフェイクイメージが作られ、複数のユーザーは掲示板で称賛を受けてイメージ生成に使われたプロンプトをシェアしてほしいという要請も出てきた。4chanにはAIで生成された露骨なセクシャルイメージを禁止する規則がない。ユーザーは一種のゲームを通じてイメージを作ったとGraphikaは指摘した。
GraphikaのCristina Lopez首席研究員は声明で「スウィフトさんが唯一の被害者ではない」とし、4chanには多数の女優・歌手・政治家を対象にしたディープフェイク・イメージがあったと明らかにした。
「スウィフト・ディープフェイク」は先月6日に4chanに初めて投稿され、11日後にはテレグラムに登場、その翌日からはX(旧ツイッター)を通じて広がった。
Xはイメージ拡散を防ぐために先月27日からXで「テイラー・スウィフト」または「テイラー・スウィフト AI」で検索することができないようにしてイメージを削除した。名前検索制限措置は同月29日に解除された。
この記事を読んで…