AIが悪用されたら、どんな怖ろしい事態が待っているのか

「用心棒ＡＩ」は
Gmailでも使われていた!?

岡田　例えばGoogleが提供しているGmailを使うと、迷惑メールっぽいメールはあらかじめ、迷惑メールフォルダに入れてくれますよね。

夏目　ああ、たまに必要なメールまで迷惑メールにされちゃうアレですね。メールの返信を忘れたときに「迷惑メールに分類されちゃって」とか言い訳に使ってます(笑)。

岡田　(笑)。必要なメールまで迷惑メールにされてしまうのは、ＡＩが「迷惑メールかもしれない」段階で弾いているからです。迷惑メールに分類されたら「迷惑メールじゃないよ」と教えてあげ、逆に迷惑メールが届いたら「これは迷惑メール」と教えてあげるとＡＩが賢くなりますよ。

夏目　なんと、あれもＡＩでしたか！わかってきましたよ。ドス持ったヤクザがウチに来たら「用心棒ＡＩ」が玄関で止めておいてくれる、というようなシステムですね。ＡＩは柄が悪そうに見えるいい人が来ても止めちゃうけど、ドス持ったヤクザを通しちゃうよりいいでしょ？と。

岡田　まあ、ざっくり当たってます(笑)。

　冗談はともかく、実は私、懸念があるんです。日本では、サイバーセキュリティに関する製品が売れていないんですよね。

夏目　何でなんですか？

岡田　アメリカやイスラエルの政府や企業は、セキュリティに関する意識が非常に高いんです。攻撃にさらされるリスクが日本より高いのかもしれません。しかし、日本の企業にも間違いなく必要ですよ。もし夏目さんが言うような「ＡＩをサイバー攻撃に悪用する」というケースが登場したら、人間には防御できない可能性が高いので。

夏目　「アルファ碁」のようにＡＩは世界最高峰の人間を破っちゃうわけですからね。

岡田　そうなんです。現在、セキュリティに使われている暗号は、複雑な計算式を使って、法則性がそう簡単にはわからないようにしてあります。コンピューターが解読を試みても何百年もかかるから、事実上安全だよね、という仕組みです。しかし、量子コンピューターが登場し、ＡＩが試行錯誤を繰り返せば、現在の暗号は数秒で解読可能になる、と言われています。

　私は「ＡＩの脅威」を感じるなら、ＡＩが人間を滅ぼすことより、セキュリティを破ろうとするＡＩに対しての防御を考えるほうが現実的だと思います。そして米国やイスラエルでは、ＡＩでセキュリティを守ろう、と考えるベンチャーが既に登場しています。私はセキュリティ対策に乗り遅れることが、日本の危機にならないことを願っています。