【回答4】
国家が強力なAIを管理するとしても
ここまで話したようなリスクを頭で考えるだけで、私もアンソロピックのアモデイ氏の主張のようにAIの開発スピードを減速させて、先に対策を研究したほうがいいように感じます。
しかし冒頭でお話ししたように経済界、そして世界の政治家の現実的な対応としては、減速は採用されないでしょう。
このリスクについてのAIの回答はシンプルです。AIは覇権国家にとっての重要兵器になるからというものです。
ここまで紹介したようなディストピア的な未来が想定できるのであれば、主要国のリーダーにとっての政策目標は単純なものになります。相手国がそれを開発する前に自国がそれを開発して保有すべきです。
しかもこれは核開発競争とは違った様相をたどるとAIは語ります。核兵器の場合はお互いが核ミサイルを保有することで「相互確証破壊」という冷戦的な均衡が生まれました。しかしAIの場合は仮にアメリカが先に超AIを完成させ、遅れて中国がAIを進化させたとしたら、アメリカの超AIはそのころには中国のAIを無効化させるさまざまな技術を供える存在になっている可能性があります。
つまり相互による均衡ではなく、圧倒的な力による均衡を目指す事態が起きます。新たなメカニズムによる冷戦です。
「よかった。アメリカが世界の警察官になってくれる未来がくるのか」と安心するのは少し早いかもしれません。
AIは、これは冷戦時代よりも不安定な安全保障環境が生まれる未来だと指摘します。そうなった場合には、どこかの国が対抗策として「貧者の核兵器」のような非対称兵器を開発し実践配備する可能性があります。わかりやすい選択肢のひとつが自律攻撃型ドローンの量産投入です。
最悪なのはそれが防御されないように、たとえばGPSを使わずにカメラだけで目標に向かうような設計になっていたり、敵の妨害電波などで操縦者との通信が途絶えても、自律的に目標へ向かい続けたりできるドローンは、すでにウクライナの戦場に導入されている。
さらにSF的に言えば、ロボットによる自動生産工場のラインで繰り返し繰り返し無限に自動製造され、その製造コストは地雷並の数百円からラジコン並の数千円で作られていくとしたら？
それがイナゴのように都市を襲う未来も、今の技術の延長線上ではそう遠くないと予測できるのです。
映画『ターミネーター2』で、サイバーダイン社に端緒がある自律型ロボットが人類を攻撃して滅ぼしている未来の情景をご覧になったことがある読者も多いのではないでしょうか。まさかとは思いますが、2030年代はそういう時代になるかもしれない。私の意見ではなく、AIの意見ですが、やっぱりかなり怖いですね。現実は。
