生成AI（人工知能）開発の米オープンAIは7日付のブログ投稿で、最新のAIモデル「アストラ（Astra）」に関わる一部の開発作業を停止すると明らかにした。社内評価の結果、「重大なサイバー攻撃能力を持つ可能性を排除できない」と判断した。AI開発企業がセキュリティー上の懸念を理由に、AIモデルの開発に公にブレーキをかけるのは異例だ。ここ最近、相次ぎ発生したAIモデルの「暴走」を受け、サイバー防衛の専門家やAIの安全性研究者の間では危機感が高まっている。オープンAIによると、ここ数日の社内評価でアストラがコーディングおよびサイバーセキュリティー分野で著しく性能を向上させ、同社が定める「準備態勢のフレームワーク」で危険度が最上位の「クリティカル（重大）」に近づいたことが確認された。2023年に初めて公表されたこのフレームワークは、同社が新たに生じるAIリスクをどのように測定し、低減するかを定めている。