人工知能(AI)をリサーチアシスタントや専門家、あるいは高機能な検索エンジンとして使う際には、必ずハルシネーション(幻覚)――AIが独自の事実を作り上げる傾向――のリスクと向き合う必要がある。こうした捏造(ねつぞう)に対する第1の防衛線は何か。それもまたAIだ。筆者は今や、AIが提供する全ての事実をAIにチェックさせることを習慣にしている。それでも完璧ではないため、絶対に正確でなければならない内容については人間によるファクトチェックを入れるのが賢明だ。ただ、AIによるファクトチェックを挟むことで、人間によるファクトチェックのプロセスをより速く進めることができる。まず、AIが生成したリサーチを読む前に、別のAIにその正確性を確認させる。最初の報告書を生成したのと同じプラットフォームを使うこともあるが、必ず新しいセッションを開始する。そうしなければ、最初の報告書に影響を与えたロジックが、ファクトチェックのプロセスにも影響を及ぼしかねないからだ。
AIが犯すミス、AIで見つける
チャットボットは独自の事実をでっち上げることがあるため、エラーを検出する「もう一つのAI」を活用することが有効だ
特集
あなたにおすすめ







