偽動画で棄権呼びかけも…ディープフェイクを利用した悪質選挙の実態

ディープフェイクの法規制は発展途上
抑止策は決め手を欠いたまま

　技術的対策と並行して、法的・規制的な対策も不可欠である。EUのAI Actは（編集部注／AI技術を幅広く規制する世界初の包括的なAI規制法。リスクに応じて要件や義務、罰則を定めているのが特徴）、生成AIによって作成されたコンテンツに対する明確なラベリングの義務付けを目的としており、欧州においては、選挙におけるディープフェイクの悪用を防ぐための重要なステップとなるだろう。

『生成AI・30の論点　2025-2026』（日本経済新聞出版）
城田真琴 著

　一方、米国ではディープフェイクに対する法的規制はまだ発展途上にある。しかし、2024年9月に米カリフォルニア州知事がディープフェイク画像や音声・動画コンテンツを用いた選挙広告を規制する法案に署名したことで、一歩前進したかに思われた。

　しかし、署名からわずか1日後に、表現の自由の侵害だとしてこれを阻止する訴訟を起こされてしまった。連邦地裁はこの訴えを認め、新法の執行を一時的に中止する仮差し止め命令を出した。

　結局、連邦レベルでは法制化に至らないまま大統領選に突入し、抑止策は決め手を欠いたままである。