Photo:Justin Sullivan/gettyimages
人工知能（AI）の開発を、マンハッタン計画による初の原子爆弾開発になぞらえる向きがある。しかし両者を対極の存在としている最も重要な事実がある。
米政府は、原子力を解き放ち爆弾を生み出したこの計画全体を主導し、監督した。その使用後、連邦政府は米国内の核技術を管理し、世界における非平和的利用を停止または遅らせようとした。政府は、自らが関与していた科学技術の本質を正確に理解していた。
同様に世界を変えるAIの開発では、事情が異なる。AIの追求は、民間によって始められ、資金提供され、実行された。国民を代表し、その身体的安全に責任を負う政府による監督は存在しなかった。最前線の研究所で科学者やエンジニア、そして機械が今まさに何をしているのかを十分かつタイムリーに理解している者は、政府高官レベルにはいない。
AIの連邦規制に反対する人々は、マンハッタン計画の初期にも、科学者が最初の核実験で地球の大気に火がつくのではないかと懸念していた点を指摘する。実際にはそうならなかった。従って、AIに関しても同様だと彼らは主張する。今は、あらゆる技術的躍進に付きものの「突飛（とっぴ）な懸念」の段階にあるというのだ。
マンハッタン計画には、あるジャーナリストが後に「終末仮説」と呼んだ事態を恐れる科学者もいた。しかしそれはごく一部であり、主流ではなかった。そして当初懸念を抱いていた計画責任者のJ・ロバート・オッペンハイマーが、他の科学者と協議し、計算を精査した上で、その懸念は退けられた。より大きな背景として、米政府は日本本土への侵攻を避けつつ第2次世界大戦を終結させようとしていた。仮に侵攻となれば数百万人の死者が出かねなかった。それゆえ一刻を争っていた。
