AIを悪用する人間こそが
もっとも恐ろしい存在である

岡田 現在のAIが人間の脅威になると想定するなら、こんな場面でしょう。例えば自動運転車に搭載されているAIに、こっそり「効率的に人をひき殺すプログラム」を入れれば、AIは人間よりも効率的に目的を果たすはずです。また、仮に夏目さんを亡き者にしたい人が、何台かの自動運転車のAIに「車載カメラにこの顔が映ったらひき殺せ」と覚え込ませれば…。

夏目 その車と出合った瞬間に僕はぺっちゃんこ、と。自動操縦の飛行機のAIに「このビルに突っ込め」と覚え込ませれば、米国の同時多発テロと同様のことが起きてしまいますね。

岡田 ええ。要するに、AIに限らず、道具によってもたらされる「利便性」と「危険性」は裏腹の関係なんです。刃物や自動車と同じで、悲しいことに、便利なものは凶器にもなってしまうんでしょう。

 だからこそ…これは私見ですが、ビル・ゲイツさんもイーロン・マスクさんも「警鐘を鳴らしている」のだと思います。彼らは「このまま全世界でAIが利用されたら無防備すぎる」と思っているのでしょう。もちろん、私もそう思っています。

夏目 具体的な対策はあるんですか? コンピューターウイルスが存在するように、悪用できるものは誰かが必ず悪用する、と性悪説で考えた方がいいと思うのですが。

岡田 まずは枠組みづくりが必要でしょう。医療技術や原子力の技術と同様に「こういうことに使ってはならない」と倫理規定を設ける必要があります。そして、AIを暴走させないため、何より大切なのはセキュリティです。

夏目 そうか!AIが自我に目覚めて「夏目を殺そう」とはならないけど、僕を消したい誰かにプログラムを書き換えられたら…。

岡田 効率的に目的を果たすでしょう。要するに、AI自体が脅威なのでなく、AIのセキュリティの脆弱性が脅威なんです。そして、これについてはAI対AIの戦いが予想されています。