「人工知能（ＡＩ）と関連してすぐに施行できる２つの規制がある。ひとつは企業が製品に責任を負うようにアルゴリズムを運営する企業がこれによって起きたことに責任を負わせること。もうひとつはＡＩが人のふりをしないようにすることだ」。

世界的ベストセラー『サピエンス全史』の著者ユバル・ノア・ハラリ氏は「ＡＩに対する規制以前にＡＩ革命が何か、いまどんなことが起きているのか正確に知らなければならない」としながらもこのように話した。新刊『ネクサス』の出版を契機に１５日にオンライン懇談会を通じ韓国記者らの質問に答えながらだ。


『ネクサス』は「情報ネットワーク」という観点から民主主義と全体主義をはじめ人類の歴史を掘り起こし、特にＡＩに対する警告と懸念を盛り込んだ。本にはフェイスブックのアルゴリズムがいわゆる「使用者参加」最大化を目標にし、ミャンマーでロヒンギャに対する憎悪をあおる投稿を積極的に推薦したこと、ＧＰＴ４がオンラインで視覚障害者のふりをして人間の助けを得て課題を解いたことも出ている。


ハラリ氏は懇談会で「現在世界の民主主義国で公論の場が崩れ理性的対話が難しくなっている。アルゴリズムとボットが人間の対話に割り込んで陰謀論、フェイクニュース、怒りを刺激するコンテンツなどをあおっている」と話した。

彼はまた、ごく少数の企業と、米国や中国などごく少数の政府だけがＡＩ技術を保有している現在の状況をめぐり、「産業革命当時に進んだ技術を持つ少数の国が世界を支配し侵奪したのと似た問題が２１世紀にまた起きないだろうかとの懸念がある」と話した。こうした企業・政府が提供するＡＩ関連情報が信頼できるものなのかをはじめ、規制前に正確な理解に向け国際機関を作るべきというのが彼の主張だ。