米オープンAIが昨夏、自社の人工知能（AI）チャットボットの性能を強化すると、世界中のユーザーが生物兵器や毒物の作り方と使い方を質問し始めた。米政府の規制をほぼ受けないこのAIモデルは、丁寧に方法を説明した。従業員によると、モデルが回答した方法は、高校レベルの生物学の知識があれば実践できるほど簡単だった。生物学やテロリズムの専門家がチャットGPTの回答を検証したところ、致死的なものもあった。事情に詳しい関係者が明らかにした。オープンAIによると、質問の大半は毒物の作り方に関してだった。オープンAIは、毒物や生物兵器の作り方を尋ねたユーザーアカウントをブロックしたものの、法執行機関には通報しなかった。米国には、兵器製造や安全を脅かす方法について質問することを制限したり、そうした質問を開示したりすることをAI企業に義務付ける連邦法はない。