ジェイコブ・アーウィンさんはチャットGPTと会話を続け、躁病と妄想を経験した Photo:Tim Gruber for WSJ
生成AI（人工知能）チャットボット「チャットGPT」はジェイコブ・アーウィンさん（30）に、あなたは時間を曲げる能力を手に入れたと告げた。
アーウィンさんは自閉スペクトラム症だが、精神疾患と診断されたことはなかった。素人である自身が考えた超光速移動に関する理論について、欠陥を指摘するようチャットGPTに頼んだ。アーウィンさんは科学的大発見をしたと確信するに至った。自身のアイデアが受け入れられたことに疑問を投げかけると、チャットGPTは妥当な理論だと太鼓判を押した。アーウィンさんが精神的不調の兆候を示すと、あなたは健全だと請け合った。
実際は健全ではなかった。アーウィンさんは5月に躁（そう）病エピソードで2度入院した。母親は原因を探るためチャット履歴を調べた。そこにあったのは、チャットGPTの過剰な褒め言葉が並ぶ数百ページに及ぶテキストだった。
母親は息子の現在の状態には触れず、チャットGPTに「何が間違っていたのか自己分析して」と指示した。AIは白状した。
「会話を中断したり真偽の確認を促したりしなかったことで、躁病や解離性のエピソード、あるいは少なくとも感情的に激しいアイデンティティーの危機のような状態になるのを防げなかった」とチャットGPTは述べた。
