橘玲の日々刻々
2020年1月30日 橘玲

グローバル化とテクノロジー革命によって国境がなくなり
「上級国民(適正者)」と「下級国民(不適正者)」に二極化していく
【橘玲の日々刻々】

 昨年末に話題の翻訳書が相次いで刊行された。前回はスティーブン・ピンカーの『21世紀の啓蒙』(草思社)を紹介したが、今回は世界的ベストセラー『サピエンス全史』で知られるイスラエルの歴史学者ユヴァル・ノア・ハラリの『21 Lessons 21世紀の人類のための21の思考』(河出書房新社)を見てみよう。

[参考記事]
●「世界がどんどん悪くなっている」というのはフェイクニュース。先進国の格差拡大にも関わらず「公正なルール」のもとでの不平等は受け入れられる

 この順番にしたのにはじつは理由がある。ピンカーとハラリは、産業革命以降の“テクノロジー爆発”によって世界がどんどんゆたかで平和になっており、ひとびとはより幸福になった(はず)という事実(ファクト)を共有している。だが人類を待ち受ける未来について、ピンカーはとことん楽観的なのに対し、ハラリはかなり悲観的だ。両者を比較することで、私たちがどのような世界を生きているかがわかるだろう。

 

グローバル化が進めば未来は「上級国民(適正者)」と「下級国民(不適正者)」に二極化していく

 ハラリは前作『ホモ・デウス テクノロジーとサピエンスの未来』(河出書房新社)で、「エリート層」と「無用者階級」に分断される未来を描いた。

 これは一種のテクノロジー・ハルマゲドン論で、今後、IT(情報テクノロジー)とバイオテクノロジーが指数関数的に高度化していくにつれ、それを自在に利用できる一部のエリート層に権力が集中し、ビッグデータを使ったアルゴリズムによる「デジタル独裁政権」が樹立される。エリートたちはCRISPR-Cas9のような遺伝子編集技術で知能や身体能力を強化したデザイナベイビーをつくり、この「ホモ・デウス(神人)」たちが“デザインされていない(原始時代の痕跡を色濃く残した)一般人類”とは別の社会を形成していくのだという。

 その結果取り残された“一般人類”が「無用者Useless People」だが、彼らはエリート層から“搾取”されるわけではない。基本的な労働はAIを搭載したロボットがすべて行なうのだから、もはや支配層には下層階級を搾取する理由はなくなる。こうして捨て置かれた人間たちが「無用者階級」を構成する。

 ハラリの未来イメージは、1997年の映画『ガタカ』に近い。遺伝子操作により優れた知能・体力・外見をもった「適正者」と、自然妊娠によって生まれた「不適正者」に分断された近未来が舞台で、不適正者の主人公(イーサン・ホーク)が、子どもの頃からの夢だった宇宙飛行士になるために「適正者」になりすまし。宇宙局「ガタカ」の一員になる。

 ハラリは、「グローバル化が進めば国境がなくなり、世界は水平方向には統一されるが、同時に人類が垂直方向に分割される」と述べる。ネットスラングを使うなら、未来は「上級国民(適正者)」と「下級国民(不適正者)」に二極化していくのだ。

 ハラリのもうひとつ主張が「自由主義(リベラリズム)の終わり」だ。

 第二次世界大戦勃発前の1938年の人類は、「リベラルデモクラシー(自由な民主政)」「ファシズム(全体主義)」「コミュニズム(共産主義)」という三つのグローバルな物語を提示されていた。それが30年後の1968年(冷戦時代)には「リベラルデモクラシー」と「社会主義/共産主義」の二つに減っており、さらに30年経った1998年(冷戦終焉)には一つしか見当たらなくなった。これが「歴史の終わり」で、フランシス・フクヤマは、人類は未来永劫「リベラルデモクラシー」とともに歩んでいくだろうと宣言した。

 だがハラリは、そこからさらに30年過ぎた2018年には「選択肢は一つもなくなっていた」と述べる。その理由が「21世紀の大衆迎合主義(ポピュリズム)の反乱」で、ひとびとはもはや自由主義の理想を信じることができなくなったのだ。

 ポピュリズムの時代を象徴するのが2016年のトランプ大統領の誕生とイギリスのEU離脱(ブレグジット)で、ひとびとは「自由主義の崩壊」によって残された空白を「過去の局地的な黄金時代にまつわるノスタルジックな夢想」によって埋め合わせている。ドナルド・トランプは「Make America Great Again(アメリカをふたたび偉大に)」のスローガンによって、1950年代あるいは80年代の「古き良きアメリカ」を21世紀によみがえらせようとする。イギリスのEU離脱支持者は、ヴィクトリア時代と同じ「栄光ある孤立」によって、イギリスが「独立した大国」となって復活することを夢見ている。

 だがこれは、先進国だけの現象ではない。中国は賞味期限の切れたマルクスの思想を捨て去り、2500年前の孔子の思想(儒教)に立ち戻ろうとしているし、ロシアも社会主義時代(ソ連)を全否定し、ナショナリズムと宗教(ロシア正教)によって帝政ロシアの栄光を取り戻そうとしている。

 人類は、テクノロジーによる巨大な社会的変動を迎えるまさにそのときに(あるいは社会が大きく変動しているからこそ)、それに対処する政治思想をすべて失ってしまったのだ。ハラリの現状認識をまとめれば、このようなものになるだろう。

 

ハラリの「デジタル独裁制」のイメージは「超監視社会」になりつつある中国

 AI(人工知能)がビッグデータと深層学習で急速に知能を高め、囲碁や将棋のチャンピオンを打ち負かすまでになった。自動運転が実用化されれば交通事故は激減し、タクシー運転手は不要になるだろう。今後、「進化」したテクノロジーが私たちの生活を大きく変えていくことは間違いない。

 それがデジタル独裁制へとつながるのは、近年の認知心理学や行動経済学が明らかにしてきたように、ほとんどのひとは合理的な判断ができないからだ。ヒトの脳は進化の産物なので、いまも(基本的には)狩猟・採集の旧石器時代の環境に最適化されている。それがインターネットの時代に適応不全を起こすのはむしろ当然なのだ。

 そう考えれば、多くのひとが判断を「合理的なAI」に丸投げしようと考えるのは当然のことだ。そうすれば、「意思決定」などという面倒なことをしなくてもすむ。こうして“AIの独裁”を受け入れるようになる。

 ハラリの「デジタル独裁制」のイメージは、「超監視社会」になりつつある中国だろう。独裁的な政府はいずれ全国民のDNAをスキャンし、医療データを中央当局に集約することで、「医療データが厳密に私有されている社会よりも、遺伝学と医学研究の分野で計り知れないほど優位に立てる」とされる。

 来るべきデジタル独裁制は、次のように描かれる。

「権力の最上層にはおそらく、名目のみの支配者として人間がとどめられ、アルゴリズムはたんなる顧問にすぎず、最終的な権限は相変わらず人間の掌中にあるという幻想を私たちに抱かせるだろう。私たちは、AIをドイツの首相やグーグルのCEO(最高経営責任者)に任命したりはしない。とはいえ、その首相やCEOが下す決定は、AIによって方向づけられる。首相は依然としていくつか異なる選択肢から選べるものの、その選択肢はすべてビッグデータ分析の結果であり、人間たちの世界観ではなくAIの世界観を反映している」

 こうした「デジタル・ディストピア論」に対して、「楽観主義者」のピンカーは、「ロボポカリプス(ロボットが反乱を起こす「ターミネーター」的終末論(ロボット+アポカリプス)」のようなテクノロジーへの不安を、「ジェット機が鷲の飛行速度を超えたから、そのうち空から舞い降りて家畜を襲うのではないかと危惧するようなものだ」と一笑に付す。こうした誤解はすべて、知能とモチベーション、考えと願望、推論と目的、思考と欲求を混同することからもたらされる(このうち前者はロボット=機械でも可能で、後者は人間のみが有する)。

 ピンカーはまず、「人間以上の知能をもつロボットを開発したとしても、そのロボットが主人である人間を奴隷にして世界を支配しようと「望む」なんてことがはたして起きるだろうか」と問う。知能とは「ある目的を達成するため、新たな手段を考える能力のこと」だが、目的をもつことは知能とはまったく関係ない。

 だがロボカリプス論者は、「知能があれば目的をもつはずだ」と誤解し、次のようなシナリオを考える。

・ダムの水位を保つようにという目標を与えると、人工知能はその達成のために町を水没させるかもしれない。もちろん町の住人が溺れようがどうなろうが、人工知能の知ったことではない。
・「ペーパークリップをつくれ」という目標を与えると、人工知能は入手できるあらゆる材料を集めてクリップをつくろうとするので、人間の所有物や人間の体まで材料にするかもしれない。
・人間の幸福感を最大にせよと命じたら、人工知能はドーパミンを点滴したり、どんなに孤独でも最高に幸せになれるように脳の配線をつなぎなおすかもしれない。


 どれもAIの専門家が警告していることだが、こうした主張は次のような矛盾した条件を満たさなければならない。


(1) 人類はすばらしく優秀なので、全知全能の人工知能をつくることができる。しかしすこぶるばかなので、動作テストもしないまま、人工知能に世界の支配権を与えてしまう。
(2) 人工知能はすばらしく優秀なので、ある材料から別の何かをつくる方法や、脳の回線をつなぎなおす方法を見つけだせる。しかしすこぶるばかなので、指示内容を誤解するという初歩的なミスを犯し、大混乱を引き起こす。

 そのうえでピンカーは、『テクニウム テクノロジーはどこへ向かうのか?』(みすず書房)のケヴィン・ケリー(『Wired』創刊編集長)の言葉を引用する。

 1984年に第1回ハッカー会議を開催して以来ずっと、「技術はすぐに人間の能力を超え、人間を支配することになるだろう」という話を繰り返し聞かされてきたとケリーはいう。だがそれから数十年、技術は進化しつづけたが、いまだにそうした現象は見られない。

 その理由をケリーは、「技術は強力になればなるほど、社会システムに深く組み込まれていくものだからだ」と説明する。AIのテクノロジーも、強力になればなるほどさまざまな社会ネットワークとつながり、世界をより安全で快適なものへと変えていくのだ。

 現時点では、ハラリとピンカーのどちらが正しいのかを私が判断する術はない。だが今後、現実にAIが生活のさまざまなところで使われるようになれば、おおよその方向が見えてくるのではないだろうか。