米国ポップスターのテイラー・スウィフトさんの顔にわいせつ物を合成した写真がインターネット上で拡散し、人工知能(AI)が生成したディープフェイクに規制が必要だという声が高まっている。
◇何が起きたのか
28日、米紙ニューヨーク・タイムズ(NYT)などによると、X(旧ツイッター)を中心にスウィフトさんの顔に性的なイメージを合成したディープフェイク写真が出回った。問題が大きくなるとXはイメージを削除して、そもそも「テイラー・スウィフト」を検索できないように措置を取った。だが、約17時間にわたり該当の写真が放置されたことを受けて、ディープフェイクに対する規制が必要だという世論が米国内で盛り上がっている。
一部ではディープフェイクがマイクロソフト(MS)のAI生成ツール「Microsoft Designer」で製作されたという主張も出てきた。MS側はこの主張に対して独自調査を進めている。MSのサティア・ナデラ最高経営責任者(CEO)は米国放送メディア「NBC」とのインタビューで「ディープフェイクと戦うために素早く動いて行動しなければならない」とし、規制の必要性を強調した。続いて「オンライン世界が安全な時、全員が利益を得ることができる」と述べた。
◇なぜ重要?
AI技術の発達でディープフェイクを悪用した事例が幾何級数的に増加している。過去にもPhotoshopを利用した合成わいせつ物があったが、AIはより短時間内に大量のディープフェイク画像を生成することができる。NYTは「AI産業が好況を享受し、企業は一般ユーザーが簡単に低価格でディープフェイクを作れるようにした」と分析した。ワシントン大学コンピュータ工学科のOren Etzioni教授も「以前も違法合成物はインターネット上にたくさんあったが、これからはAIが生成する露骨な写真の『津波』を見ることになるだろう」と述べた。
有名人ではない一般人もディープフェイク被害にさらされている。ジョセフ・モレル民主党下院議員は自身のXで「このようなこと(合成わいせつ物被害)はどこででも女性たちに起きている」として規制の重要性を強調した。
◇防ぐことはできるか
現在、米国連邦政府次元でディープフェイク技術を規制する方法はない。ただし、9州に限り、相手の同意なくディープフェイク写真の生成・共有することを禁じている。スウィフトファンは「テイラー・スウィフトを保護しよう(#protectTaylorSwift)」というハッシュタグを通じて連邦政府にディープフェイクの規制を要求している。
韓国ではAIディープフェイク技術でわいせつ物を製作する場合、処罰することができる。性暴行処罰法第14条2は性的羞恥心を誘発する形で映像を編集・合成・加工する場合、5年以上の懲役または5000万ウォン(約553万円)以下の罰金に処するようにしている。だがAIディープフェイクでわいせつ物を製作すること自体をやめさせることは難しい。オンラインの特性上、一度公開された掲示物の場合、急速に広がるため、被害の事前防止効果は制限的だ。
法務法人「世宗(セジョン)」のキム・ユニ弁護士は「一人一人がディープフェイクでわいせつ物を作ること自体を防ぐのは現実的に不可能」とし「プラットフォーム次元でも申告を受けない写真や動画まですべて規制するには限界がある」と説明した。続いて「ディープフェイクの悪用を防ぐためにはわいせつ物が拡散した時に営利目的でなくても加重処罰する方向などを考慮しなければならない」と述べた。
◇何が起きたのか
28日、米紙ニューヨーク・タイムズ(NYT)などによると、X(旧ツイッター)を中心にスウィフトさんの顔に性的なイメージを合成したディープフェイク写真が出回った。問題が大きくなるとXはイメージを削除して、そもそも「テイラー・スウィフト」を検索できないように措置を取った。だが、約17時間にわたり該当の写真が放置されたことを受けて、ディープフェイクに対する規制が必要だという世論が米国内で盛り上がっている。
一部ではディープフェイクがマイクロソフト(MS)のAI生成ツール「Microsoft Designer」で製作されたという主張も出てきた。MS側はこの主張に対して独自調査を進めている。MSのサティア・ナデラ最高経営責任者(CEO)は米国放送メディア「NBC」とのインタビューで「ディープフェイクと戦うために素早く動いて行動しなければならない」とし、規制の必要性を強調した。続いて「オンライン世界が安全な時、全員が利益を得ることができる」と述べた。
◇なぜ重要?
AI技術の発達でディープフェイクを悪用した事例が幾何級数的に増加している。過去にもPhotoshopを利用した合成わいせつ物があったが、AIはより短時間内に大量のディープフェイク画像を生成することができる。NYTは「AI産業が好況を享受し、企業は一般ユーザーが簡単に低価格でディープフェイクを作れるようにした」と分析した。ワシントン大学コンピュータ工学科のOren Etzioni教授も「以前も違法合成物はインターネット上にたくさんあったが、これからはAIが生成する露骨な写真の『津波』を見ることになるだろう」と述べた。
有名人ではない一般人もディープフェイク被害にさらされている。ジョセフ・モレル民主党下院議員は自身のXで「このようなこと(合成わいせつ物被害)はどこででも女性たちに起きている」として規制の重要性を強調した。
◇防ぐことはできるか
現在、米国連邦政府次元でディープフェイク技術を規制する方法はない。ただし、9州に限り、相手の同意なくディープフェイク写真の生成・共有することを禁じている。スウィフトファンは「テイラー・スウィフトを保護しよう(#protectTaylorSwift)」というハッシュタグを通じて連邦政府にディープフェイクの規制を要求している。
韓国ではAIディープフェイク技術でわいせつ物を製作する場合、処罰することができる。性暴行処罰法第14条2は性的羞恥心を誘発する形で映像を編集・合成・加工する場合、5年以上の懲役または5000万ウォン(約553万円)以下の罰金に処するようにしている。だがAIディープフェイクでわいせつ物を製作すること自体をやめさせることは難しい。オンラインの特性上、一度公開された掲示物の場合、急速に広がるため、被害の事前防止効果は制限的だ。
法務法人「世宗(セジョン)」のキム・ユニ弁護士は「一人一人がディープフェイクでわいせつ物を作ること自体を防ぐのは現実的に不可能」とし「プラットフォーム次元でも申告を受けない写真や動画まですべて規制するには限界がある」と説明した。続いて「ディープフェイクの悪用を防ぐためにはわいせつ物が拡散した時に営利目的でなくても加重処罰する方向などを考慮しなければならない」と述べた。
この記事を読んで…