企業・ベンダー・コンサルが激変!DX2025 エージェントAIが来る#8Photo:Donald Iain Smith/gettyimages

米OpenAIが発表したSora2が日本の版権著作物の無断出力で問題になっている。同様に「AIで素人がなんでも作れる」世界になったことは、そこまでみんながハッピー、とも言い難いようで。特集『DX2025 エージェントAIが来る』(全21回)の#8では、そんなトホホ話をメンバーが語るITインサイダー座談会の3回目をお届けする。(聞き手/ダイヤモンド編集部 鈴木洋子)

座談会参加者
Henry @HighWiz 大手SIerの大規模プロジェクトのPMを経て総合コンサルで活躍中
ケビン松永 @Canary_Kun 大手SIerから独立してフリーのITコンサルやってます
よんてんごP @yontengoP ブラックIT企業を渡り歩く病人X(旧Twitter)er。最近はブラックでなくなったらしい
むぎSE @MUGI1208 社内SE社畜ツイッタラー。炎上プロジェクトの遭遇率が高め
shin @shin_ofshins ウェブとアプリに詳しいコード書く系スタートアップ経営者
かち @kachi_saas 諸事情で外資ITソフトウエアベンダーを卒業★した人

Sora2の炎上でわかった「アイデアだけでAIでモノががんがん作れてみんなハッピー」な世界は存在しない

――Sora2の版権著作物の無断学習出力問題方面で、AIがまた炎上気味です。著作権侵害とかフェイクニュースが量産されるなどの問題はともあれ、素人が1分であれだけ高精細なものを作れる時代になりましたね。

shin ジャストアイデアでモノを作ってやり始めることのハードルがすごい低くなりましたよね。

かち でもさ、そんな人本当にたくさんいるのかね?AI以前はアイデアだけたくさんあって作れてなかった、AIですごい力を得て作れるようになった人。

よんてんごP(4.5P ) いますいます。ただ、アイデアとAIだけでどんどん作れるようになるかというと難しい。「こういうアプリを作ったら絶対当たる、この組み合わせは無かった、わーい俺、天才!」ってなって作ったはいいけど、表面上のシステムは作れたけど、なぜか動かない。何で?ってなって、実際はデータベースとか、サーバの設定とかまで必要だけど、作る側が一定の知識がないと「動かない!どうして?」とAIに聞いてもなかなか解決に導けなかったり、あとは、このサービスって法的な許認可いるんじゃないの?みたいなところも、使う側が適切に質問しないと教えてくれないイメージ。

 将来「よしよしこうですよー、データベース、こっちで勝手に契約しておくからね」みたいなエージェントが出ると違うのだろうけど、ガンガン作ってつまずいてる人がまだまだ多い印象ですな。前回話した「プログラミングの知識やノウハウが無い人が作って動かなくなったアプリを復旧する」仕事が出てくるくらいだから。良い悪い関係なく、いろんなハードルは下がってます。

かち ただ、それでえいやっとアプリをデプロイ(本番移行)して、セキュリティ事故起こしたり、クラウド破産する人がどれだけ出てくることか。自分で一つひとつ確認しながら作った人なら絶対に起こさないようなインシデントを起こしてしまうのは避けられない。AIは「聞かれてないから答えなかった」が当然あるものだと思って付き合わないといけないですね。

 将来的には「後から思えば、たしかに必要な観点だった。後の祭り」的な心配をしなくてもよくなると良いですね。今のところは、人間のプロならではの「言われてみれば」の余地はずいぶん残されている気がしています。

――AIがすごい!は確かにそうなんだけど、それが仕事や社会にプラスの影響ばっかり与えているかというと全然そういうことはないわけで。今日はこのあたりの話を次ページで詳しくしていきましょうか。