英国のチャールズ3世国王は17日（現地時間）、人工知能（AI）の急速な発展が人類の存続にもたらす危険性を警告し、人間はAIを制御する力を失ってはならないと強調した。

ロイター通信などの海外メディアは同日、「チャールズ3世国王がスコットランドのダンフリーズ・ハウスにAI業界の主要人物を招き、会議を開いた」と報じた。エヌビディアのジェンスン・フアン最高経営責任者（CEO）、ディープマインドの共同創業者でグーグルの最高科学責任者を務めるデミス・ハサビス氏、オープンAIのサラ・フライアー最高財務責任者（CFO）らが出席した。


チャールズ3世国王は開会のあいさつで、「AIの発展は、その性質も速度も興味深く、同じくらい深く憂慮すべきものだ」と述べ、「私たちの人間性は神聖さを保たなければならない。人々は、私たちが自らの運命と魂に対する主導権を失わないという確信を求めている」と語った。続いて、AIが悪意ある者の手に渡れば、破壊的な形で使われる可能性があると指摘した。「開発者たちは、『命を奪うこともあり得る』AIの暗い側面について、ますます警告するようになっている」と述べ、「そうした技術が悪意ある者の手に渡り、破壊的な形で使われるという、人類の存続に関わる危険性を早急に検討する必要がある」と語った。


チャールズ3世国王は「手遅れになる前に、十分な制御手段を備えなければならない」と述べ、「現在のような形成期に下される決定が、未来の世代が受け継ぐ世界を決める」と強調した。さらに、「皆さんの前にある課題は、単に技術を発展させることにとどまらず、その技術が人類と共同体、自然界に確実に役立つようにすることだ」と付け加えた。

今回の会議は、政界や経済界でAI開発の速度をめぐる議論が続くなかで開かれた。アンソロピックのダリオ・アモデイCEOやオープンAIのサム・アルトマンCEOらが、AI開発の速度を落とす必要性を提起したり、それに賛同したりする一方、ドナルド・トランプ米大統領は開発速度を調整すべきだとの議論を批判してきた。AI分野の先頭に立つ企業による減速論については、市場での優位性を維持するための戦略ではないかとの疑問も出ている。

チャールズ3世国王は気候変動などの環境問題に長年取り組んできたが、技術分野に精通しているわけではない。ただ、今回の会議には、AIの影響が安全保障や経済、社会全般に広がるなか、チャールズ3世国王がこの問題について自ら意見を表明する場としての意義がある。