AI動画を見続ける人に起きる「恐ろしい変化」とは？専門家「感覚そのものが失われていくんです」

　現在はAI動画生成のハードルが下がったことで、これら3タイプの悪意や承認欲求を持った発信者が、簡単に誤情報を発信できるようになっている。

　さらに気を付けなければいけないのが、誤情報を発信している人の数より、それを拡散してしまう人のほうが圧倒的に多いという点だ。彼らの場合、多くが「正しい情報」だと信じており、悪意がない分だけストッパーが働かない。その結果、被害が無限に連鎖していくという極めて厄介な構造を生み出している。

AI動画に慣れることで
生まれる深刻なリスク

　では、急激に成長しているAIを使ってAI生成コンテンツの真偽を見極めることはできるのだろうか。

「AIでも判定できますが、間違える可能性があります。実際、選挙期間中に候補者が投稿した動画が少し不自然だったことがありました。それを見た有権者がXのGrokに『AIで作られた動画か調べてほしい』と尋ねたところ、『AIで生成された動画だ』と判断したんです。その結果、『AIで作られた動画を使っているのではないか』という情報がSNS上で拡散されました。しかし、私たちが検証した際、その動画はAIではなく本物だとわかりました」

　現状ではAIによる判定にも限界があり、その能力は決して高くはないのだ。

「生成AIの正確性は、今のところ70～80点ほどでしょう。そう聞くと十分高いように感じるかもしれませんが、情報は食べ物と同じです。2～3割の確率で食中毒になる食べ物を誰も食べませんよね」

　さらに古田氏が危惧するのは、生成AI動画そのものの真偽よりも、それを見続けることが人々に与えてしまう悪影響についてだ。

「AI動画かリアルな動画かどうか、疑うことを諦めてしまう人が増えています。そうなると、本物と偽物を見極める感覚そのものが失われていくんです。例えば、本来は災害や戦争の映像を撮るのはとても大変で、ブレていたり、煙だらけで人が映っていなかったりするでしょう。一方でAIなら、まるで映画のワンシーンのようなドラマチックな映像が作れてしまう。むしろ、そうした作り込まれた映像のほうに人々がリアリティを感じるようになってしまうことのほうが危ういのです」