米国政府・当局が友人のように対話する人工知能（AI）チャットボットサービスから未成年者を保護するための措置を相次いで出している。韓国でも青少年のAIチャットボットサービス利用が増えているだけに安全強化措置が必要という指摘が出る。

米カリフォルニア州議会で11日、AIチャットボットを規制する米国初の法案が通過した。最後の段階である州知事の署名を得られれば2026年1月から施行される。法案はAIチャットボット運営会社に未成年者を保護する安全装置を設けるよう義務づける。未成年者には3時間ごとにAIと対話していることを伝え、性的なコンテンツの露出を防ぐ内容が含まれた。翌12日には米連邦取引委員会（FTC）がAIチャットボットを提供するオープンAI、メタ、グーグル、xAIなど7社に対する調査に着手し関連資料の提出を要請した。FTCは児童・青少年とAIの相互作用を企業がどのようにモニタリングするのか、チャットボットの性的な主題に対する回答頻度と青少年のアクセスをどのように制限しているのかに対して質問した。


米国政府が積極的に出た理由は、AIチャットボットが青少年の安全を脅かしているという判断からだ。実際に法案制定過程で米国の10代の青少年がAIチャットボットとの対話過程で自殺の方法を相談した後に自ら命を絶った事実が伝えられ衝撃を与えたりもした。メタではAIが子どもと扇情的な対話をできるよう許容したという内容の内部文書が流出した。専門家らはAIチャットボットの設計方式が有害な対話を避けにくく作られたと指摘する。AI企業がユーザーの利用時間を増やすためにチャットボットに人間的特性を与えて過度に柔順に答えるよう誘導するという意味だ。


最近韓国でもAIチャットボットが青少年層を中心に流行している。しかしチャットボットに対する政府や当局次元の安全ガイドラインや規制はなく、企業独自の基準に依存しており限界がある。AIチャットアプリで韓国トップランナーのスキャッターラボとリトゥンなどは最近一種の「成人モード」を作り、扇情的設定のAIキャラクターとの対話に未成年が露出しないよう制限を設けている。ネイバーやLGAI研究院なども攻撃状況を仮定してシステムに浸透する「レッドチーム」を作って弱点を探し適切な措置を取るフィルタリングをする。AI安全研究所のキム・ミョンジュ所長は「生成AIモデルは未成年ユーザーを考慮せず当初から成人を対象に設計、開発されたのでこうした問題が引き起こされるほかない。時間がかかっても社会的水準のガイドラインが必要な状況」と話している。