ILLUSTRATION: GREGORI SAAVEDRA FOR WSJ
1962年7月6日、米エネルギー省はネバダ州ラスベガスの南西約120キロメートルの地点で水素爆弾を爆発させた。核兵器を土木工事などの平和目的に利用できることを証明することが目的だった。この爆発による放射性降下物はサウスダコタ州にまで達し、1300万人余りの米国人が被ばくした。
この実験を主導した「プロジェクト・プラウシェアーズ」計画は、かつてないほど強力になった人工知能（AI）モデルを人間のあらゆる活動領域に応用しようとする今日の取り組みと重なる部分がある。いずれも、人類に可能なら取りあえず試してみるべきだという、誤った考えの実践例だ。
爆弾の開発者が抱いていた懸念と、今日のAIモデルの開発者が抱く懸念には、不穏な共通点さえある。AIモデルの開発者は、自分たちが解き放とうとしている怪物はあまりにも危険で、人類の未来を脅かしかねないことを危惧している。
今日のAIモデルを過度に使用したとしても、放射性物質がまき散らされるわけではないが、その影響は広範囲に及ぶ可能性があり、後から振り返れば分かり切ったことだったと思うだろう。大規模な人員削減、怒りと疎外感を感じる顧客、AIを誤った形で導入した企業における甚大な価値の崩壊などだ。
筆者は軽々しくこのような結論に至ったわけではない。この10年、AIの開発者や、AIを業務に使う方法を最前線で模索している人たちから、知見や事例を集めた。大手AI研究所の最高経営責任者（CEO）や主任エンジニア、その礎を築きノーベル賞やチューリング賞を受賞したコンピューター科学者、その結果生み出されたツールを独創的な方法で日々の生活に取り入れている多くの人たちから話を聞いた。
そこで学んだことを新著「How to AI（ハウツーAI）」にまとめ、AIの有益な使い方を紹介した。だが重要なことを書き漏らしていた。どういう時にAIを使うべきではないか、だ。
筆者が講演を行い、読者から質問を受ける中で気づいたのは、AIの使い方に最もたけている人たちは、どういう時にAIを使うべきでないかもよく理解しているということだ。もしその人たちが土木技術者だったら、あまりにも強力なツールは使う場所を選ぶ、と言うだろう。運河を掘るために水爆を使うのはまずいように。
では、AIを使うべきでないのはどんな時か。筆者がこれまでに聞いた話から言えるのは、それは次のいずれかが欠かせない時だ。
