AIが思想統制するだけでなく
人を「物理的に選別」する時代へ

津上　「先の読めない時代」と言えば、AIもそのファクターですね。AIに「電源オフ」というコマンドを出そうとしたら、AIが勝手に迂回して、自己防衛のために乗組員を殺害したという怖い話が『2001年宇宙の旅』に出てきます。本当にAGI（Artificial General Intelligence、汎用人工知能）が出現すれば、人類史がどうなるか、いっそうわからなくなります。

小泉　反乱を起こす以前に、AIってそれほど人間に興味があるのかが疑問ですけれど。

津上　「人類は地球にとってコストでしかない。大量の資源を浪費する上に環境を破壊し、ろくなことをしない」と分析、「人類は2分の1か3分の1にスケールダウンさせるのがベスト」と結論を出しかねない（笑）。

小泉　中国からそういうAGI的なAIが出てくる可能性もありそうですね。

津上　中国で初めて誕生したAGIが、共産党の総書記に向かって「これまで私の技術開発に多大な貢献をしていただき本当に感謝していますが、今日はお伝えすることがありまして、あなたは今日でクビです」と言う――これは『米中対立の先に待つもの』（日本経済新聞出版）という本で私が書いたブラックジョークなんですけど。

小泉　ありうるなあ（笑）。

津上　現実の中国のAIは、かなり思想統制をしています。例えば文法添削AIに「中国経済にとってのリスク」なんて文章をチェックさせると、「中国経済にとってのチャレンジ」と書き換えられる。

熊倉　私も中国のDeepSeekを使うんですが、ちょっと敏感な話でもバーッと答えが出てくる。だけど数秒後にパッと消えて「別の話をしましょう」って。その数秒間にスクショするのがお約束です（笑）。これまで中国は、人民解放軍や武装警察で人々を抑えつけてきました。

　今後も究極的にはそのままでしょうが、もうちょっと手前の管理でAIを重宝すると思います。点数をつけたり、優良な人とそうでない人を選別したりが新疆などのディストピア的な場所で試験的に行われ、やがて中国全体を覆っていく。そんな話になると思います。