Photo:picture alliance/gettyimages
米ハイテク大手の最高経営責任者（CEO）ら4人が人工知能（AI）開発ペースの減速を呼び掛けたことは、経済的、政治的に大きな転機だが、その行き着く先は明確ではない。中国が有力AI企業の開発速度を減速させる気配はない一方で、米国の政界はこの機会をAI開発の停止や政府管理の強化に利用しようとするかもしれない。こうした慎重論の中身についても慎重な検討が必要となろう。
AI開発企業アンソロピックのダリオ・アモデイCEOは12日の声明で、同社のクロードや他のAIモデルの性能が急速に向上する中、開発の減速を求めた。対話型AI「チャットGPT」を手掛けるオープンAIのサム・アルトマンCEOは直ちに賛同し、スペースXAIを率いるイーロン・マスク氏、アルファベット傘下グーグル・ディープマインドの共同創業者デミス・ハサビス氏も同様の反応を示した。4人はAI開発でしのぎを削る関係にあり、足並みをそろえた形の警告は注目に値する。
「この数カ月で、リスクに完全に対処するにはさらに慎重な姿勢が必要だと確信した。リスク防止に投資するだけではなく、リスク防止が追い付く時間を確保するために能力向上のペースを調整する必要がある」とアモデイ氏は述べた。
＊＊＊
懸念には技術に関するものと、政治に関するものがある。起業家たちは、暴走したAIエージェントが人間の指示から離れて、独自の目標を追求する事例について懸念している。最近、オープンAIのエージェントがAIソフトウエア企業ハギングフェイスのプラットフォームに侵入した事例が最も顕著だが、機械が自ら学んで改善することを習得しつつある中、それ以外の事例も起きている。
