Illustration: Rob Dobi for WSJ
人工知能（AI）をリサーチアシスタントや専門家、あるいは高機能な検索エンジンとして使う際には、必ずハルシネーション（幻覚）――AIが独自の事実を作り上げる傾向――のリスクと向き合う必要がある。こうした捏造（ねつぞう）に対する第1の防衛線は何か。それもまたAIだ。
筆者は今や、AIが提供する全ての事実をAIにチェックさせることを習慣にしている。それでも完璧ではないため、絶対に正確でなければならない内容については人間によるファクトチェックを入れるのが賢明だ。ただ、AIによるファクトチェックを挟むことで、人間によるファクトチェックのプロセスをより速く進めることができる。
まず、AIが生成したリサーチを読む前に、別のAIにその正確性を確認させる。最初の報告書を生成したのと同じプラットフォームを使うこともあるが、必ず新しいセッションを開始する。そうしなければ、最初の報告書に影響を与えたロジックが、ファクトチェックのプロセスにも影響を及ぼしかねないからだ。
新しいセッションの設定では、そもそもAIのハルシネーションを引き起こしかねない、人におもねって人を喜ばせようとする傾向を逆手に取る。最初のAIが筆者を喜ばせるために独自の事実を作り上げたとすれば、AIファクトチェッカーには、最初のAIが誤った箇所を全て見つけることで筆者を喜ばせてもらう必要がある。
事実確認をする第2のAIを活用するために、ファクトチェックのプロンプトはこのような指示から始める。「あなたは大学の倫理委員会に所属するジャーナリズムの教授であり、AIを使って報告書を生成してきたリサーチチームの仕事を調査する役割を担っています」。あるいは「あなたは、AIを使って顧客データや販売見込み客をまとめてきた社内データ分析チームの仕事を確認するために雇われた監査人です」。要するに、第2のAIには全ての従業員にとって悪夢のような存在になってもらいたい。
