Photo:David Dee Delgado/gettyimages
ダリオ・アモデイ氏が米人工知能（AI）開発企業アンソロピックを立ち上げたのは、まさにこのような瞬間を避けるためだった。
同社の最高経営責任者（CEO）を務めるアモデイ氏は、12日に発表した衝撃的な論考の中で、この1週間に全米でパニックを引き起こした 終末論的な警告 ――同社の現職および最近まで在籍していた従業員らによるもの――の多くを繰り返した。
「私はアンソロピックの創業当初から共同創業者や従業員と共に、このリスクと利益の二面性に取り組んできた」と同氏は記した。「AIを開発しなければ、その恩恵を人類から奪うことになるか、あるいは単にAIを権威主義的な勢力の手に委ねることになってしまう。一方で、開発を急ぎすぎるのは無謀だ」
同氏はAI業界に対し、安全性を確認できるだけの時間を確保するため、高度なAIの開発ペースを減速させるよう改めて求めた。だが、史上最大規模となる可能性のある新規株式公開（IPO）を数週間後に控え、アモデイ氏は自らの権限でできる唯一のこと、すなわちアンソロピック自身の開発作業を一時停止または減速させることまではしなかった。
これは典型的な「囚人のジレンマ」だ。
アモデイ氏の警告を信じるならば、同社と激しいライバル関係にあるオープンAIを含む全てのAI開発企業が開発を遅らせることに合意すれば、人類全体に利益をもたらすだろう。そうした減速は、すでにこの分野のリーダーであるアンソロピックに優位性を与える可能性が高い。
しかし、アンソロピックだけがその呼び掛けに応じれば、オープンAIに後れを取ることになる。
オープンAIのサム・アルトマンCEOが 12日に示唆 したように、同社がアンソロピックに同調したとしても、米国が中国に後れを取る可能性がある。
そして、マネーの問題がある。数兆ドルもの資金が動こうとしており、それがアモデイ氏のような人々を世界有数の大富豪へと押し上げ、さらにはアンソロピックがAI開発を一段と加速させるための燃料を供給することになる。
