スゴイ通り越して怖いわ…「Sora 2」で著作権ガン無視動画がポンポン出てくるヤバさ

既存の写真や自分の顔を参照させて動画を生成できる

「＋」をクリックすると、画像をアップロードして参照させることもできる。例えば、柴犬の写真をアップロードし、「子犬が吠えながら雪に飛び込んで遊んでいる」と入力してみる。

　黒い柴犬の子犬のデータなど、大量にあるとは思えないが、それでもとてもリアルな動画が生成された。犬が踏んだ雪が沈んだ状態のままになるなど、物理的にも正確な描写になっている。鳴き声も違和感がないし、人間の声まで入っている。記事のために生成したAI動画ではあるが、とても懐かしくて、何度も見返してしまうほどの体験となった。

自分が登場する動画を作れる「カメオ」機能

　プロンプトを入力する際、フォーム上部に「Add Cameo」という項目が現れる。これは、ユーザー自身の顔と声をAIが学習し、どんなシチュエーションの動画にも自然に登場させることができる新機能だ。利用する際は、一度だけ短い動画（約10秒）と音声の収録が必要になる。スマホアプリでのみ利用できるが、これはなりすまし防止のために、本人確認のライブネスチェックを行うためだ。

スマホアプリで本人認証し、カメオを追加する　拡大画像表示

自分の顔を利用できるユーザーを設定する　拡大画像表示

　カメオを登録後、自分の顔をクリックすると、ユーザー名が入るので、続けてプロンプトを入力する。例えば、筆者であれば「@unagi がプレゼンする」のように書けばいい。

　上述のリミックス機能に自分のカメオを使うこともできる。気に入った動画を自分の顔で作り直す、ということが簡単にできるわけだ。

　カメオを公開している他のユーザーの顔も利用できる。例えば、OpenAIのサム・アルトマンCEOもカメオを公開している。そのため、「サム・アルトマンが万引きする動画」など、不適切な動画が多数生成されており、カオスな状況になっている。

リアルなフェイク動画が一瞬で作れる

　ここで、動画を1本見ていただこう。

　筆者が生成AIのイベントに呼ばれ、Sora2について講演している様子……といいたいところだが、これもSora2で作ったものだ。しかも、プロンプトはたったこれだけである。

　動画の冒頭でいきなり、「みなさんこんにちは、柳谷智宣です」と、指示していないのに本名を名乗っているのに驚いた。どうやら、Sora2が自己判断でChatGPTのユーザー名を参照したと思われる。

　スマホで数秒の動画を学習させただけなのに、本人の顔と声で簡単にフェイク動画が作られてしまうのは怖いところ。Sora 2は本人確認を徹底しているが、技術的にはどんな人のリアルなフェイク動画も一瞬で作れてしまう世界になっていることは念頭に置いておきたい。