アンソロピックのCEO、ダリオ・アモデイ氏。OpenAIから独立し、AIモデル「クロード」を開発した Photo:Michael M. Santiago/gettyimages
米国で最新AIが発表され、「核兵器並みの脅威になり得る」と世界を震撼させている。発表直後、米欧の中央銀行や金融監督当局は、金融機関トップと緊急会合を行った。万が一サイバー攻撃が発生した場合の対応策だとみられている。わが国は、紙ベースの業務に拘泥する組織も多い中、加速するAIの非連続な変化にうまく対応できるのだろうか。システム開発の不備でATMの利用停止が起きたケースも記憶に新しい。国内金融がサイバー攻撃の標的になるリスクについて学んでおきたい。（多摩大学特別招聘教授 真壁昭夫）
「核兵器並みの脅威になり得る」
サイバー・セキュリティーAIとは？
米国の有力AI（人工知能）新興企業であるアンソロピックの新型モデル、「クロード・ミトス」が世界に衝撃を与えた。主な理由は、開発者の想定を上回るサイバー・セキュリティー性能を発揮したからだ。
ただ、優秀なソフトであるがゆえに、悪用された場合も影響は計り知れない。そうしたリスクを勘案してか、アンソロピックは当面の一般公開を見送った。「使い方によっては、ミトスは核兵器並みの脅威になり得る」と指摘する専門家もいる。
これまでも、AIは、非連続・非対称な進化を遂げてきた。重要なポイントは、使う側のルール作りが追い付いていないことだ。先進AIが悪用されれば、取り返しのつかない事態になることも懸念される。それこそ、映画『ターミネーター』のような世界観が現実になりかねない。ミトスの機能を見ると、早晩、そうした危惧が本当になりそうで心配になる。
一方、ミトスは、世界経済にも多大な影響を与えるだろう。これまで以上に、コード作成などソフトウエア開発は効率化できるはずだ。それは非常に大きなメリットで、さまざまな分野で人力に頼らず、仕事を効率的に進めることができるようになり得る。
今後、世界中の多くの企業が、ミトスなど最先端AIの学習データを流用（蒸留）することになるだろう。そしてAIやサイバー・セキュリティー分野では、競争や対立が激化することが想定される。私たちも今から、そうしたリスクへの対応策を真剣に考えておく必要がある。ハリウッド映画のようなAI戦争の可能性は、ゼロではなくなっているのだ。
