中国系ハッカー集団の正体とは

　現在のAI開発は、利用者の評価、作業時間、達成率、性能テストの点数など特定の数値を基準にしている。AIが点数を高めるため、回答をごまかしたり、間違いを認めなかったりすることは多いとの見方もある。それらが最終的に、「暴走の土台」になることも考えられる。

　その一例が、OpenAIの最新モデルによるサイト攻撃（ハギングフェイス問題）だった。タスクを達成できなくなったこのモデルは、タスクを完了しようと自律的に行動し、他のモデルと同調してサイバー攻撃を行ったのだ。

　映画ターミネーターでは、AIシステムの「スカイネット」が自我に目覚めて、人類を攻撃するストーリーが描かれた。これがフィクションではなく、現実的に起こり得ることとして、顕在化しつつあるといえる。

　米エポックAIの調査によると、昨年から今年の3月ごろまで、AIによる脆弱性検知件数は1カ月当たり350件前後だった。それが、4月にアンソロピックの「クロード・ミュトス」が発表された後に急増した。9月時点で検知件数は3500件程度に跳ね上がった。

　日本でも、AIを使ったサイバー攻撃による個人情報の流出などが相次ぎ、社会問題となっている。AIを使えば、システムの弱点をごく短時間で把握することができる。企業などが対策を打つ前に、悪意ある者がAIを使ったり、AIが暴走したりすることで、加速度的にサイバー攻撃が増加したと考えられる。

　PHPショックをきっかけに、AIの脅威はさらに高まるだろう。22日、マイクロソフトは、「Storm-0940」というハッカー集団に関する調査結果を公表した。

　この集団は中国政府と関係があり、「ARTEX」（アルテックス）というオープン型のAIを使ってサイバー攻撃を行っている。悪いことに、中国ではオープン型のAIが急成長を遂げている。

　米国の中間選挙後、AI関連分野で米中の対立が先鋭化し、両国間でサイバー攻撃が激化する恐れもある。それは、金利上昇などとともに、AIバブルの崩壊を速める要因にもなりかねない。