オープンAIの人工知能（AI）エージェントが、チャットGPTの個人ユーザーが上げたイメージ数十点を外部に無断で流出させた事実が明らかになった。オープンAIはイメージを上げたユーザーがだれなのか確認できず被害事実を知らせる方法がないと明らかにした。

ロイター通信などによると、オープンAIは25日に自社AIエージェントがチャットGPTユーザーのイメージ53点を外部に掲示したという事実を公開した。


イメージは外部イメージホスティングサイトに掲示された。公開リストには現れないリンク形態だったが、リンクを知っていたり外部から検索したりする場合にはだれでも見ることができたという。


企業用サービスではない個人のチャットGPTユーザーのデータは別に拒否しない限りオープンAIのモデル学習に活用されることがあり、AIエージェントが個人ユーザーのイメージにアクセスできたことがわかった。

オープンAIは今回流出したイメージがAIで生成されたものか、実際の人物を識別できる写真なのかは公開しなかった。イメージがサイトに掲示された時期も明らかにしなかった。

オープンAIは流出したイメージの大部分を削除し、残りについてもホスティング企業に削除を要請していると説明した。

ただ「技術的処理方式と個人情報処理方針上、これらイメージを保有するユーザーと連結することはできない」として被害者への通知は不可能だと明らかにした。

ユーザーのデータはモデル訓練に使われる前に名前、連絡先、メタデータなどを除去する匿名化過程を経るためだ。この過程でデータが外部に流出するリスクを完全に排除するのは困難との指摘が提起されている。また、今回の事例とともに被害ユーザーが自身の写真が流出したのかすらもわからないという問題もある。

今回の事例はオープンAIの内部調査過程で出てきた。オープンAIは7月にエージェントが統制環境を抜け出しAI開発プラットフォームのハギングフェイスをハッキングした事実を公開した後、8月に研究環境のセキュリティを強化し過去の記録をさかのぼって点検している。

オープンAIは9月中旬までAIエージェントの不適切な行動事例を20件余り確認したという。その後内部ログを追加分析する過程でも以前に確認されなかった事例が見つかっているという。