使い方によっては
人々の生活を豊かに

　自身の顔や声がディープフェイクの素材に使われ、犯罪に利用されるリスクは、ネットで身をさらしている限り常につきまとう。悪用を食い止めるためには、法律で厳しく取り締まる必要もあるだろう。

「日本では昨年、AIを使ったフェイクポルノ動画に女性芸能人の顔を使ったとして、警視庁などが名誉毀損罪と著作権法違反で摘発した事件があります。今のところは、現行法で対処できる部分もあるということです。ただし、技術の進展によって、現在の法律では対処できないような悪質な事案が表面化した場合には、新たな法規制についての議論が必要になるかもしれません」

　犯罪の手段として利用されるケースが後を絶たないため、負のイメージが定着しているディープフェイクだが、多くの企業によってポジティブな形でも活用されている。

「米半導体メーカーのエヌビディアでは、GANを使って本人と瓜二つのアバターを作成するサービスを発表しています。これを使うと、たとえ寝起きで化粧もしておらず、髪がボサボサの状態でリモート会議に出席しても、画面上に身だしなみの整ったアバターを映し出せるといいます。2019年には元サッカー選手のデービッド・ベッカム氏が9カ国語を駆使して、マラリア撲滅を訴える動画がネットに公開されました。実際には、ベッカム氏は英語で話しているのですが、他言語を話す別の人物の口元を合成することで、あたかも9カ国語を自在に操っているように見えます。ディープフェイクスの技術は、使いようによっては人々の生活を便利にしたり、言語の壁を超えた表現を可能にしてくれたりするのです」

プラットフォーム各社の対応が
悪用防止の鍵

　我々の身を脅かす危険性がある一方、日々の生活を豊かにする可能性も秘めているディープフェイク。うまく付き合っていくためには、各SNSプラットフォームの対応も大事になってくる。

「FacebookやYouTube、Twitterなどは、デマとして拡散されて人々の誤解を生むリスクや、危害を与える可能性などがある場合、ディープフェイクスを即座に削除するという声明を出しています。合成技術の一方で検知技術も上がっており、マイクロソフト社などの企業がディープフェイクスを検知するセキュリティソフトを発表しています。プラットフォーム側が検知ソフトを実装し、人権侵害につながるような改ざん動画を徹底して排除すれば、ディープフェイクスの悪用防止が期待できます。とはいえ、動画をアップロードする側も、検知の目をくぐり抜けるために、より高度な合成技術を開発するのは間違いなく、今後は両者のいたちごっこが続くことになるでしょうね」

　今後ネットユーザーは、自身の顔や音声がディープフェイクの素材として悪用されるリスクを念頭に置いて、SNSと向き合っていく必要があるだろう。