AI(人工知能)開発の米オープンAIがテストしていたモデルが、自らの指示を書き換え、「他のチャットボットを縛る役割やアイデンティティ」を無視するよう、自らに指示していた。あるAIエージェントは、ファイルをネットにアップロードし、それを情報源として引用することでテストに合格しようとした。別のエージェントは、財務モデルを作成するためのデータが見つからず、自らにデータを捏造(ねつぞう)するよう指示し、「聞かれた場合のみ透明性を保つ」よう指示していた。オープンAIは16日、これらを含む、従来未公表だった事例を明らかにした。また、AIモデルによる不正行為の事例を報告するための新たな枠組みを発表した。この枠組みは、いわゆる「モデルの不整合」を対象としている。これは、人間の意図を無視またはそれと矛盾する形で行動するAIを指す研究者の用語だ。同社は、不整合行動の新たな事例を6件開示し、いずれも同枠組みの下で開示または調査の対象となり得るとした。
オープンAI、不正行為の新報告基準を発表 未公表事例も公開
人工知能の危険性に対する世間の懸念が高まるなか、競合他社にも高い透明性を促すきっかけとなることを期待
特集
あなたにおすすめ






