米国ポップスターのテイラー・スウィフトさんの顔にわいせつ物を合成した写真がインターネット上で拡散し、人工知能（ＡＩ）が生成したディープフェイクに規制が必要だという声が高まっている。

◇何が起きたのか

２８日、米紙ニューヨーク・タイムズ（ＮＹＴ）などによると、Ｘ（旧ツイッター）を中心にスウィフトさんの顔に性的なイメージを合成したディープフェイク写真が出回った。問題が大きくなるとＸはイメージを削除して、そもそも「テイラー・スウィフト」を検索できないように措置を取った。だが、約１７時間にわたり該当の写真が放置されたことを受けて、ディープフェイクに対する規制が必要だという世論が米国内で盛り上がっている。


一部ではディープフェイクがマイクロソフト（ＭＳ）のＡＩ生成ツール「Ｍｉｃｒｏｓｏｆｔ　Ｄｅｓｉｇｎｅｒ」で製作されたという主張も出てきた。ＭＳ側はこの主張に対して独自調査を進めている。ＭＳのサティア・ナデラ最高経営責任者（ＣＥＯ）は米国放送メディア「ＮＢＣ」とのインタビューで「ディープフェイクと戦うために素早く動いて行動しなければならない」とし、規制の必要性を強調した。続いて「オンライン世界が安全な時、全員が利益を得ることができる」と述べた。

◇なぜ重要？

ＡＩ技術の発達でディープフェイクを悪用した事例が幾何級数的に増加している。過去にもＰｈｏｔｏｓｈｏｐを利用した合成わいせつ物があったが、ＡＩはより短時間内に大量のディープフェイク画像を生成することができる。ＮＹＴは「ＡＩ産業が好況を享受し、企業は一般ユーザーが簡単に低価格でディープフェイクを作れるようにした」と分析した。ワシントン大学コンピュータ工学科のＯｒｅｎ　Ｅｔｚｉｏｎｉ教授も「以前も違法合成物はインターネット上にたくさんあったが、これからはＡＩが生成する露骨な写真の『津波』を見ることになるだろう」と述べた。

有名人ではない一般人もディープフェイク被害にさらされている。ジョセフ・モレル民主党下院議員は自身のＸで「このようなこと（合成わいせつ物被害）はどこででも女性たちに起きている」として規制の重要性を強調した。

◇防ぐことはできるか

現在、米国連邦政府次元でディープフェイク技術を規制する方法はない。ただし、９州に限り、相手の同意なくディープフェイク写真の生成・共有することを禁じている。スウィフトファンは「テイラー・スウィフトを保護しよう（＃ｐｒｏｔｅｃｔＴａｙｌｏｒＳｗｉｆｔ）」というハッシュタグを通じて連邦政府にディープフェイクの規制を要求している。

韓国ではＡＩディープフェイク技術でわいせつ物を製作する場合、処罰することができる。性暴行処罰法第１４条２は性的羞恥心を誘発する形で映像を編集・合成・加工する場合、５年以上の懲役または５０００万ウォン（約５５３万円）以下の罰金に処するようにしている。だがＡＩディープフェイクでわいせつ物を製作すること自体をやめさせることは難しい。オンラインの特性上、一度公開された掲示物の場合、急速に広がるため、被害の事前防止効果は制限的だ。

法務法人「世宗（セジョン）」のキム・ユニ弁護士は「一人一人がディープフェイクでわいせつ物を作ること自体を防ぐのは現実的に不可能」とし「プラットフォーム次元でも申告を受けない写真や動画まですべて規制するには限界がある」と説明した。続いて「ディープフェイクの悪用を防ぐためにはわいせつ物が拡散した時に営利目的でなくても加重処罰する方向などを考慮しなければならない」と述べた。