人間とほとんど区別のつかない会話をする生成AI(人工知能)の登場で、機械が意識をもつ可能性が浮上してきた。驚異的なテクノロジーは、わたしたちをどのような未来につれていくのだろうか。

　ニック・ボストロムはオックスフォード大学の哲学科教授で、AIが人類を滅ぼすリスクを論じた『スーパーインテリジェンス　超絶AIと人類の命運』（倉骨彰訳／日本経済新聞出版社）で知られる（原書は2014年刊）。

　第二次世界大戦中、アラン・チューリングの配下でドイツ軍の暗号（エニグマ）解読に従事した数学者アーヴィング・J・グッドは、「再帰的に自己改良する機械」を1965年に論じた。知的活動をするマシンが自律能力を獲得し、自分よりも優れたマシンを設計できるようになれば、その知能は爆発的に成長するだろう。グッドはこれを、「われわれ人類が発明すべき最初で最後の発明となる」と考えた。

　アメリカの数学者でSF作家でもあるヴァーナー・ヴィンジは1980年代に、脳とコンピュータが融合する技術的特異点（シンギュラリティ）を迎えた近未来を描き、未来学者のレイ・カーツワイルはテクノロジーの指数関数的な発展を背景に、2000年代はじめに「シンギュラリティは近い」と予言した。

　これを受けてボストロムは、超知能（スーパーインテリジェンス）を人間が管理できるとはかぎらないとして、有名な「ペーパークリップの思考実験」を行なった。工場でペーパークリップの生産管理を任されたAIが超知能を獲得すると、生産量を最大化するためにまず地球全体の（人類を含む）すべての資源をペーパークリップに変え、その後、観測可能な宇宙の領域の大半を次から次へとペーパークリップにしてしまうという。

「デジタル生命」の可能性よりも人類の存続を上位に置くのは「種差別」

　2015年7月、イーロン・マスクとグーグル創業者のラリー・ペイジがはげしい論争を交わした。マスクと当時の妻タルラーがナパ・バレーで開いたパーティでこの場面に遭遇した理論物理学者のマックス・テグマークによると、ラリー・ペイジは「デジタル生命は宇宙の進化における次のステップとして自然で望ましいものであり、デジタルの心を抑圧したり奴隷にしたりするのではなく、解放してやれば、ほぼ間違いなく良い結果が訪れる」と“デジタルユートピア論”を唱えた。「生命は銀河系やその先まで広がっていくべきだと考え、そのためにはデジタルの形態でなければならないと訴えていた」のだ。

宇宙に意義を与える意識的存在は人類だけと考えるのは優性思想なのか？AIとの融合は可能なのか？イラスト/crosscircle / PIXTA(ピクスタ)

　ボストロム同様、AIが人類の脅威になると懸念するマスクは、「デジタル生命が我々の大切にしているものを破壊しないと確信している根拠を示せ」とペイジに迫った。それに対してペイジは、「イーロンのことを、炭素でなくシリコンでできているというだけで劣った生命形態とみなす『種偏見論者』と非難した」という。

　この興味深い場面は、テグマークの『LIFE3.0　人工知能時代に人間であるということ』（水谷淳訳／紀伊國屋書店）で紹介されている。ちなみにマスクは、AGI（汎用[はんよう]人工知能）について、「私たちがデジタル超知能体の単なる生きたブートローダーに成り下がらないことを祈ろう。残念ながらその可能性は日々高まっているが」「人工知能に関しては、私たちは悪魔を召喚しようとしているようなものだ。聖水を持った男が、自分なら悪魔を制御できると本気で信じながら五芒星を描く話がよくあるだろう。でも、必ず失敗するんだ」とX（旧Twitter）に投稿している。

　マックス・テグマークは『LIFE3.0』で、知的エージェント（感覚器で外界の情報を集め、その情報を処理して、どのような環境に反応するかを決定するタイプの生命形態）を3段階に分けている。

　LIFE1.0は「ハードウェアとソフトウェアの両方が、設計されるのではなく進化する生命」で、ランダムなDNA変異と自然選択によって何世代にもわたるゆっくりとした試行錯誤のプロセス（進化）を経て環境に適応していく。これは（人間以外の）ほとんどの生き物のことだ。

　LIFE2.0は「ハードウェアは進化するだけだが、ソフトウェアの大部分は設計できる生命」で、感覚から得た情報を処理してどんな行動をとるかを決定するアルゴリズムを改良し、知識全般を蓄積できる。この段階に達したのは地球上ではヒトだけで、文化の進化によって遺伝的な進化を増強し、巨大な文明を築き上げた。

　遺伝子によるデザインにはきわめて大きな制約があるので、わたしたちは年齢とともに身体機能が衰え、100年を大幅に超えては生きられず、気候変動で環境が大きく変わると絶滅してしまうかもしれない。

　だがLIFE3.0はソフトウェアだけでなくハードウェアもデザインできるので、「100万年生きつづけたり、ウィキペディアの内容をすべて記憶したり、既知の科学を残らず理解したり、宇宙船に乗らずに宇宙旅行を楽しんだりできる」ようになる。

　テグマークは、LIFE3.0は「生命がほぼ存在していないこの宇宙を、何十億年も何兆年も繫栄する多様な生物圏に変え、この宇宙の潜在力を完全に目覚めさせることができる」という。これがラリー・ペイジのいう「デジタル生命」で、その可能性よりも人類の存続を上位に置くのは「種差別」なのだ。