このように業界が一斉にブレーキを踏むよう求めたものの、その直後に米中首脳は加速と拡張を選び、事実上こうした警告を無視するような流れだ。これに関連し、AI規制が米中間の覇権競争と米国内の党派対立に絡めば、制御不能なAIの危険への対応は後回しになりかねないとの懸念が出ている。「速度調整論」を主張したアモデイ氏もCBSのインタビューで、中国などの国がAI規制に参加しないことが「最も難しいジレンマ」だと認めた。

これに先立ち8日、「AIが人類を絶滅させる可能性がある」と警告を残して退社したアンソロピックの元AI研究員ジェイコブ・コクソン氏はこの日、NBCのインタビューで「中国で我々と同じ問題を検討している人たちも、AIは慎重に開発されるべきだという同じ結論に至ることを願う」と述べた。続けて「そうでなければ双方ともリスクを冒したまま同じレースを繰り広げることになり、これは全員を危険にさらしかねない」とし、「チキンゲーム」の様相を警告した。


目前に迫った米中首脳会談で、双方がAI開発規制をめぐり何らかの合意を導き出せるかも注目される。ロイター通信はこれに先立ち、両国がトランプ政権2期目に入って初の公式AI安全対話（AI Safety Talk）を9月中旬に開催する案を協議中だと報じたこともある。首脳会談に先立って両国の対話が実現すれば、「自律型AIエージェントの脅威防止」「最先端AIモデルの規制」「情報共有メカニズム」などの問題が重点的に議論される見通しだ。


ただ、ニューヨーク・タイムズ（NYT）は、両国が規制に合意しても相手国がこれを守らないという不信のためAI開発競争を止めるのは難しいとし、これを「米中AI覇権競争が生んだ『囚人のジレンマ』」と表現した。特にAIは核兵器と違い、規制を順守しているかどうかを検証することが事実上不可能だとも指摘した。

AI規制問題は米国内の党派的争点に発展する可能性もある。バラク・オバマ元大統領は10日、民主党の非公開資金集め行事で「AIは民間の手で非常に速く発展しており、適切に制御できなければ危険になり得る」とし、党レベルでの対応を求めたとAP通信は伝えた。オバマ氏は民主党が中間選挙で下院を奪還した場合、AI政策に関する公開議論の枠組みを設け、2028年大統領選の候補者らも安全・経済問題に対する明確な対応策を核心議題とするべきだと促した。


トランプ氏「このままだと中国に負ける」…囚人のジレンマに陥った「AI終末論」（1）