写真はイメージです Photo:PIXTA
2024年は選挙イヤーだった。日本でも衆議院選挙や兵庫県知事選が行われたが、特に後者ではフェイクを含む情報が交錯し、選挙結果を大きく左右することとなった。真偽の区別がつかないほど精巧な動画や音声を作成できるAIのディープフェイクも誕生しており、それによって選挙結果を揺るがされた事例も世界では出てきている。ディープフェイクの現状と対策を解説する。本稿は城田真琴『生成AI・30の論点 2025-2026』（日本経済新聞出版）の一部を抜粋・編集したものです。
低コストで大統領になりすまし？
ディープフェイクが選挙を壊す日
ディープフェイクとは、ディープラーニング技術を駆使して作成された偽の映像や音声のことであり、人間の目や耳では本物と偽物を見分けることが困難なコンテンツが生成される。
政治や選挙の文脈では、ディープフェイクは特に有害な存在となり得る。選挙候補者や政治家の発言を偽造することで、有権者に誤った情報を伝え、選挙結果に影響を与える恐れがあるからだ。
ディープフェイクは以前から存在したが、この数年の生成AI技術の進化がディープフェイクをさらに加速させている。
画像生成においては、Midjourneyのような直感的なインターフェースを持つツールが普及し、専門知識がなくても数分で政治家の肖像画を作り出すことができる。
音声合成の分野では、ElevenLabsのようなAI企業が、わずか数分の音声サンプルから個人の声を再現する技術を実用化している。
動画生成に関しても、Synthesia、D-ID、HourOneといった企業が、テキストから自然な動画を生成するサービスを提供し始めている。
