人工知能（AI）新興企業の米アンソロピックの研究者がAI業界を去ることが明らかになった。同社や競合他社が、制御不能になりかねないAIシステムの開発を競い合っていることへの懸念が背景にある。これは大手AI企業内で安全性への懸念が高まっていることを示す兆候だ。同社の研究者で、膨大なデータを読み込ませて新たなAIモデルを訓練することを専門としているジェイコブ・コクソン氏は8日、自己改善型AIシステムの開発を巡る業界全体の競争に加わりたくないとして、退社すると述べた。同氏は、そうしたシステムが制御不能に陥り、人類を破滅させる恐れがあると懸念している。27歳の英国人であるコクソン氏は、業界内の同僚の多くが今、自己改善型モデルの実現に向けた歩みについて「正念場」や「終盤戦」といった表現を使うようになっていると述べた。