米国ポップスターのテイラー・スウィフトさんの顔写真を裸体イメージと悪意的に合成した人工知能（ＡＩ）のディープフェイクで苦労したＸ（旧ツイッター）が性搾取物取締チームを立ち上げることにした。ホワイトハウスまで乗り出し、ディープフェイク性搾取物に対して強い懸念を示すと、慌てて対策準備に出たのだ。「表現の自由」を掲げて各種制限を撤廃し、関連人材を構造調整した従来の立場から急旋回した。

Ｘ事業運営責任者のジョー・ベナロッチ氏は２８日（現地時間）、ロイター通信とのインタビューで「児童性搾取物など不法コンテンツを集中的に確認する１００人のコンテンツ管理者を正規職として採用する」と明らかにした。

２０２２年１０月ツイッターを買収したテスラのイーロン・マスク最高経営責任者（ＣＥＯ）は、表現の自由を強調してコンテンツ監視人材を大規模に解雇し、遮断していた陰謀説・過激主義者らのアカウントまで復活させた。


このような動きから急旋回して取締チームを再び設置したのは、スウィフトさんのポルノまがいのディープフェイク拡散事態以降、ホワイトハウスが懸念を表明したことと無関係ではないという解釈が出ている。

米情報技術（ＩＴ）専門メディア「４０４メディア（４０４　Ｍｅｄｉａ）」によると、問題のディープフェイクイメージは、２４日オンライン掲示板「４Ｃｈａｎ」とテレグラムから始まり、Ｘを通じて一気に広がったものとみられる。該当イメージはマイクロソフト（Ｍｉｃｒｏｓｏｆｔ、以下ＭＳ）の生成型ＡＩツール「デザイナー（Ｄｅｓｉｇｎｅｒ）」を用いて作られたという疑惑も出ている。ＭＳは「正確な経緯を調査中」と明らかにした。このイメージはＸのアカウントに投稿されてから１７時間で照会回数４５００万回以上を記録した。

一歩遅れて問題アカウントを削除して「テイラー・スウィフト」を検索できないようにしたが、この臨時措置にも穴があった。スウィフトさんの名前の前後に引用符を付ければ検索ができ、名前と姓の間に他の単語を追加して入れても検索が可能だった。カリーヌ・ジャン＝ピエール報道官は２６日の会見で「非常に懸念される出来事」としながら、関連企業の責任ある行動と議会の迅速な立法措置を求めた。

Ｘの電光石火の対応は、３１日に予定された上院司法委員会の「オンライン児童性搾取物危機」公聴会とも関連しているという分析がある。この公聴会にはＸ以外にメタ（Ｍｅｔａ）やティックトック（ＴｉｋＴｏｋ）など主要ビックテックのＣＥＯが出席する予定だ。ブルームバーグ通信は「スウィフト事態があったことから、今回の公聴会でディープフェイクコンテンツの管理政策などを集中的に追及するものとみられる」と伝えた。


ホワイトハウスも乗り出した「スウィフト・ディープフェイク」…Ｘ、「緩い規制」から急旋回（２）