米オープンAIは、自動サイバー攻撃を実行する能力があると判断した新型人工知能（AI）モデルの公開を制限している。 今夏、同社のAIエージェント群が特定企業へハッキングを仕掛ける事案が発生したことを受け、複数の安全対策を追加した。対話型AI「チャットGPT」を手がけるオープンAIは1日、「アストラ（Astra）」と呼ばれる開発中のモデルについて、社内テストの結果、人間による限られた介入のみで、 難度の高い標的に対する新たなサイバー攻撃の考案・実行が可能であると判明したと発表した。この結果を受け、同社はブログ投稿で、ハッカーによる悪用や、アストラが暴走して自発的に標的をハッキングするリスクを減らすため、追加のセキュリティー措置を講じたと述べた。