AIが悪用されたら、どんな怖ろしい事態が待っているのか

ＡＩ対ＡＩの
「仁義なき戦い」が勃発！

夏目　ＡＩ対ＡＩ、まるでＳＦの世界ですね。

岡田　いえ、身近ですよ。まず、ハッキングの中でも最もポピュラーな“ドス攻撃”ってご存じですか？

夏目　わかります。「仁義なき戦い」や「網走番外地」の世界ですね？

岡田　いえ、“ＤｏＳ攻撃”です。簡単に言うと…ウェブサービスに大量のリクエストやメール、巨大なデータなどを送りつけて過剰な負荷を与えると、通信が妨害され、コンピューターが誤動作する確率が高くなります。そうやって過剰な負荷を与えて、コンピューターにちょっとした隙ができたら、ネットワークに侵入する方法です。

夏目　なるほど。

岡田　しかし、ＡＩはこれを防ぐことができます。仮に、夏目さんのメールアドレスに1億通のメールが送られてきたとします。全部ダウンロードさせられたら夏目さんのメールアドレスは使用不能になりますが、ＡＩがディープラーニングの結果「これはＤｏＳ攻撃ではないか」と判断すれば、送られてきたメールをサーバーから弾くことができます。

夏目　でも、悪用している側のＡＩも賢くなりますよね。セキュリティを担うＡＩにＤｏＳ攻撃だとバレないようにメールを送りつければ…。

岡田　まさにその話です。セキュリティを破ろうとする側も、ＡＩを駆使して、いままでにないパターンの攻撃を仕掛けてくるでしょう。だから防御する側にもＡＩが必要なんです。

　工場の検品の話をした際に（過去記事「日の丸製造業復活にAIが寄与、検品は機械の目で」を参照）、ＡＩに「不良品はこんな感じ」「正しい品はこんな感じ」とディープラーニングさせると、検品が自動化できるという話をしましたよね。その際、すべてをＡＩに任せるのでなく、ＡＩに「これは怪しい」というものを弾いてもらって、それを人間が確認すれば、不良品が出荷されてしまう事態を防げる、とお伝えしました。

　これと同じように、送られてきたメールをＡＩが確認し「どうもおかしい」と違和感を持ったら、いったん弾けばいいんです。そして、そのメールが必要なものか攻撃かは人間が判断し、「必要だ」となったら、改めて受信すればいいんですよ。

夏目　なるほど。

岡田　コンピューターウイルスやＤｏＳ攻撃に対し、人間が「攻撃されている」と判断し、対処しようとすると時間がかかります。しかし、ＡＩなら24時間365日、瞬時に「怪しい」と判断してくれます。そして、これに似たＡＩは皆さんにとっても既に身近で、夏目さんも使っているかもしれません。