ＡＩを悪用する人間こそが
もっとも恐ろしい存在である

岡田　現在のＡＩが人間の脅威になると想定するなら、こんな場面でしょう。例えば自動運転車に搭載されているＡＩに、こっそり「効率的に人をひき殺すプログラム」を入れれば、ＡＩは人間よりも効率的に目的を果たすはずです。また、仮に夏目さんを亡き者にしたい人が、何台かの自動運転車のＡＩに「車載カメラにこの顔が映ったらひき殺せ」と覚え込ませれば…。

夏目　その車と出合った瞬間に僕はぺっちゃんこ、と。自動操縦の飛行機のＡＩに「このビルに突っ込め」と覚え込ませれば、米国の同時多発テロと同様のことが起きてしまいますね。

岡田　ええ。要するに、ＡＩに限らず、道具によってもたらされる「利便性」と「危険性」は裏腹の関係なんです。刃物や自動車と同じで、悲しいことに、便利なものは凶器にもなってしまうんでしょう。

　だからこそ…これは私見ですが、ビル・ゲイツさんもイーロン・マスクさんも「警鐘を鳴らしている」のだと思います。彼らは「このまま全世界でＡＩが利用されたら無防備すぎる」と思っているのでしょう。もちろん、私もそう思っています。

夏目　具体的な対策はあるんですか？　コンピューターウイルスが存在するように、悪用できるものは誰かが必ず悪用する、と性悪説で考えた方がいいと思うのですが。

岡田　まずは枠組みづくりが必要でしょう。医療技術や原子力の技術と同様に「こういうことに使ってはならない」と倫理規定を設ける必要があります。そして、ＡＩを暴走させないため、何より大切なのはセキュリティです。

夏目　そうか！ＡＩが自我に目覚めて「夏目を殺そう」とはならないけど、僕を消したい誰かにプログラムを書き換えられたら…。

岡田　効率的に目的を果たすでしょう。要するに、ＡＩ自体が脅威なのでなく、ＡＩのセキュリティの脆弱性が脅威なんです。そして、これについてはＡＩ対ＡＩの戦いが予想されています。