人工知能が人間を超えた先には、どのような世界が待ち受けているのだろうか？人間に制御できないシンギュラリティ（特異点）は本当に到来するのだろうか？いずれにしろ、今日の私たちが慣れ親しんだ世界は、そう遠からず終わりを迎えるだろう。新刊『人工知能は私たちを滅ぼすのか――計算機が神になる100年の物語』から、本文の一部をダイジェストでご紹介します。
人工知能に倫理を与えることはできるか
本書の発売の発売後、まるで示し合わせたかのように人工知能関連のニュースが次々と話題になりました（著者が実はタイムトラベルしてきた未来人なのは秘密ですよ！）。
先月24日、マイクロソフトはTwitterなどで他のユーザーとチャットを行う人工知能プログラム「Ｔａｙ」を公開しました。Ｔａｙは人と話すことを通して学習し、より自然な応答を行えるようになることを目指していました。
ところが、同社はわずか数時間のうちにＴａｙの公開を停止するハメになります。その理由は、Ｔａｙが人種差別や性差別などの極めて不適切な発言を行うようになったためです。
Ｔａｙが行ったツイートの例としては
「フェミニストは地獄の業火で焼かれて死ね」
「ホロコーストはなかった」
「ヒトラーは正しかった、ユダヤ人は大嫌いだ」
等があります。
これは、今日の人工知能技術の基盤となっている機械学習技術の限界を示すものです。
機械学習技術は、与えられたデータの中のバイアスを取り出すことを人間以上にうまくやります。Ｔａｙの例では、悪意を持った利用者が応答を行うことでＴａｙに上記のような劣悪な対応を「教え込ませる」ことに成功しました。
私たち人間ももちろん周囲の人間の言行に影響されて人格を形成します。それでも私たちは歴史の中で、ヒトラーが行った蛮行や、女性や少数民族が抑圧されてきたことについては、誤りであったと判断することのできる倫理感を持っています。それは、他者への共感に根ざしています。
この他者への共感というものは、ハーバードの心理学教授スティーブン・ピンカーが著書『人間の本性を考える――心は「空白の石板」か』で述べているように、進化生物学的な基盤を持っています。
私たち人間を含む生物について考えるときには、38億年にわたる進化適応の結果として今の私たちがいる、という視点を忘れてはいけません。そうした中で生態系としてのバランスを適切に取るように進化してきたからこそ、私たちは生き延びています。
そして、人工知能技術はそのような進化のメカニズムからは切り離されていることに注意する必要があります。ディープラーニングのように、人工知能は脳などの生物の機能を部分的に模倣することができます。しかし、人工知能が全体として、生態系の中の淘汰圧のようなメカニズムによって適切なバランスを保つ保証はありません。
Ｔａｙの事例が私たちに教えてくれるのは、人工知能は、私たち自身のように進化的な基盤から他者への共感のような生態系の繁栄に適切な倫理を持っているわけではないということです。
そのため、私たちは人工知能を開発していくうえで、それが倫理的に振る舞うように設計およびデザインを行う必要があるということです。これが適切になされるかどうかが、人工知能が私たちを滅ぼすか否かに決定的な影響をおよぼすと考えられます。
【2030年の世界その8】
最後の審判
これまでの物語は以下からお読みください
2030年の世界その1
2030年の世界その2
2030年の世界その3
2030年の世界その4
2030年の世界その5
2030年の世界その6
2030年の世界その7
これまでのあらすじ
2030年に暮らす女子大生のマリは、アシスタント知能デバイス（Ａ.Ｉ.Ｄ.）のピートとともに、人工知能誕生を探る旅に出た。チューリングマシンからパーソナルコンピューター、クラウド、スマートフォン、そしてＡＩ開発に革命を起こしたディープラーニングを知る。果たしてこの先、マリたちの世界も人間には制御できないシンギュラリティ（特異点）へと向かうのか？
私はホログラムの青色の光を放つピートの目を覗きこむ。この愛嬌のある顔の裏には、何百万台ものコンピューターが私たちを計算し続けているんだ。不意に落ち着かない気持ちが私を襲った。
「ピート、今日はもうスリープモードに入っていいよ」
「今日は早いね、まあいいけど。おやすみなさい」
ピートの目から光が失われて、私の腕に巻きつく。こうなるとただのブレスレットだ。実際はスリープ中でもマイクやセンサーは情報を集め続けているらしい。それでも、今はちょっとピートと離れたかった。
気づくと私は礼拝堂まで走ってきていた。礼拝堂の奥にある地下納骨堂への螺旋階段は、夕暮れの光に照らされたステンドグラスに取り囲まれている。雲の上から鳴り響いてくるような聖歌が流れる中を、私は足早に下っていった。ステンドグラスは、キリストの生涯を描いている。馬小屋での誕生。神の教えを説く姿。弟子たちとの最後の晩餐。十字架の上での受難。そして復活。階段を降りた奥の祭壇に、神父がいた。
「おやマリさん、こんなところに来るなんて珍しいですね。でもここは、この教会の中でも死者を祀る神聖な場所。そんなにバタバタとしてはいけませんよ」
「すみません。でもどうしても今お話ししたくて。この間、神の国のお話をされていましたよね」
「はい、イエス・キリストが再び地上に降り立った後、千年にわたって神の国が続くとされています」
「その後には、なにが起きるんですか？」
ただでさえいかめしい神父の顔が、いつにもまして険しくなった。
「バチカンのシスティーナ礼拝堂。その天井には、なにが描かれているか知っていますか」
「ええと……」
一応これでも歴史のゼミなのだ。
「確かミケランジェロが描いた、最後の審判でした」
「そう、ヨハネの黙示録に示された、最後の審判。多くの人はそのことばくらいは聞いたことがあるでしょう。ですが、それがなにを意味しているのか本当に知っている人はとても少ない」
「最後の審判では、なにが起きるんですか？」
「まず、これまで生まれ死んでいったすべての人たちがよみがえります。もちろんこの納骨堂に眠る人たちも。そして、イエス・キリストが持つ命の書に従い、正しき生をまっとうした人と、そうでない人がふるいにかけられます。そして──今私たちが暮らす地上の世界は終わりを告げます。正しき人たちは、新しい世界で永遠の生を得ます。そこではあらゆる苦しみや悲しみは消えてなくなります」
「今の世界の終わり──ふるいにかけられた正しくなかった人たちはどうなるんですか？」
「火の泉に投げ込まれ、二度目の死、今度は決してよみがえることのない永遠の暗闇が待っています」
少しの間、私たち二人を沈黙が包んだ。沈黙を破ったのは、神父だった。
「もちろん、私たちクリスチャンの中でも、キリストの再臨と黙示録の世界がすぐに訪れると考えている人はあまりいません。それは私たちの歩むべき道を示す、寓話のようなものと考える人が多いです。ところが近年、最後の審判が近々本当に起こると考える人たちが増えてきました。私は彼らを正しいクリスチャンとは認めませんが。マリさんは聞いたことがありますか、シンギュラリタリアンという人たちのことを」
私は、そんな舌をかみそうな名前の人たちのことは知らない。
「中心となっているのは、著名な技術者や研究者だそうです。彼らは、最後の審判が近々起こると主張しています。ただし、それはイエス・キリストによってではありません。彼らは、おぞましいことに……」
神父がステンドグラスを見上げる。
「人工知能が最後の審判を起こすというのです」
心のある機械について調べ始めたときから、私にはある種の予感があった。それはあの日に見た夢のせいかもしれない。
世界の終わりの夢。人工知能はこの100年の間に、あまりにも急に進化してきた。私たちが心を作り出したら。それは正しい心になるだろうか。そして、私たちは今みたいな地上の支配者でい続けられるのだろうか。
人工知能は私たちの慣れ親しんだ世界を終わらせる
この連載のもととなっている書籍『人工知能は私たちを滅ぼすのか』では、コンピューターが生まれてから、私たちの世界を変えるまでの100年間を見ていきます。
1980年生まれの筆者がゲームなどを通してコンピューターに接したのは、物心がつくかつかないかの頃でしたが、これは何か世界を変えるものだというぼんやりとした直感がありました。
その後、コンピューターに公私を問わず長い時間にわたって関わる中で、その影響が生活の中に広がっていくのを体感しながらこれまで生きてきました。昔はコンピューターに興味を持たなかったような人たちが、一日に何時間もスマートフォンでウェブやメッセージを利用するようになるのを目の当たりにしました。
そのような目に見えるところから、私たちの社会を支えるインフラに至るまで、コンピューターというものが、ほんのわずかの期間にどれだけ私たちの世界に深く入り込んだか。そして近い将来には、さらに劇的に私たちの世界を変えることになるか。コンピューターはどこから来てどこへ向かうのか。それを実感してもらうことが、本書を書く動機でした。
一般的に、未来の予測というのはそんなに当たるものではありません。19世紀に行われた20世紀の予測には、私たちは空飛ぶ車に乗って、動物とも話をするようになると書かれていたりします。それにもかかわらず、コンピューターについてはその進化に一定の法則を見出すことができます。
コンピューターの計算力が2年で2倍になるというムーアの法則、そしてネットワークにつながるコンピューターの数の二乗でその価値が増すというメトカーフの法則。この二つの「神の法則」に導かれて、コンピューターは今や人の賢さと並び、汎用人工知能を実現し、私たちを神の恵みと権威に支配された千年王国へと導こうとしています。しかしそのさらに先には、何が待ち受けているのでしょうか？
シリの音声認識を開発した、人工知能の第一人者レイ・カーツワイルは、コンピューターをはじめとする私たち人間が生み出してきた技術の進歩はムーアの法則やメトカーフの法則に限らず、一般的に指数関数的に加速しているといいます。
そしてその変化は間もなく無限に大きくなって、そこから先を見通すことができない「シンギュラリティ（特異点）」に到達すると予言しています。その先の世界では、私たち人間は人工知能と融合し、神のような超知能となって、やがては宇宙にあまねくその賢さを行き渡らせるとされています。
まるでＳＦかオカルトのように聞こえますが、カーツワイル自身のような技術の専門家を含むその信奉者たちはシンギュラリティの到来を真剣に信じています。カーツワイルは今ではグーグルに所属して、その豊富な資金や技術をシンギュラリティの実現のために用いています。
ヨハネが黙示録に記した啓示の最後には、千年王国も終わりを迎えます。そこでは救世主の前にすべての死者が蘇り、神の楽園で永遠の命を得る正しきものと、火の中に投げ込まれて二度とよみがえることのできない罪人とをふるいにかける、最後の審判が行われます。
カーツワイルたちが信じるように、かつてエデンの園を追われた私たち人間は、人工知能を受け入れて再び楽園に戻ることができるのでしょうか。それとも火の中に投げ込まれて滅ぼされるのでしょうか。いずれにしても、今日の私たちが慣れ親しんだ世界は、そう遠からず終わりを迎えるのかもしれません。
地球上に生命と人間の繁栄をもたらした「ことばの力」とは？ 私たちは本当に心を作れるのか？ そして私たちが人工知能に裁かれる「最後の審判」とは？
続きは『人工知能は私たちを滅ぼすのか 計算機が神になる100年の物語』本編でお楽しみください。
（第10回に続く 4/11公開予定）
新刊書籍のご案内
『人工知能は私たちを滅ぼすのか 計算機が神になる100年の物語』 児玉哲彦・著
定価：1600円＋税
発売：ダイヤモンド社
福岡伸一氏推薦!!
（『生物と無生物のあいだ』著者）
「2045年、人工知能の発達は人間の手を離れ、独自の進化段階に入る。
以降、人間はあらゆる問題から解放される。あなたは本書の最終章を受け入れられるだろうか? コンピュータをめぐる過去・現在・未来を一気に疾走する好著!」
ＩＴと人間の関係を研究する専門家が、100年にわたるコンピューターの進化の物語を読み解きながら、2030年に実現する世界と、その先に訪れる未来を描く。2030年に暮らす女子大生のマリと、人工知能アシスタント・デバイス（A.I.D.）のピートと一緒に、人工知能の誕生を探る旅に出ましょう！
ご購入はこちらから！→［Amazon.co.jp］［紀伊國屋書店BookWeb］［楽天ブックス
著者について
児玉哲彦（こだま・あきひこ）
1980年、東京に生まれる。父親のMIT留学に伴い、幼少時代をボストンで過ごす。10代からデジタルメディアの開発に取り組む。慶應義塾大学湘南藤沢キャンパスにてモバイル／IoTの研究に従事、2010年に博士号（政策・メディア）取得。頓智ドット株式会社にて80万ダウンロード超のモバイル地域情報サービス「tab」の設計、フリービット株式会社にてモバイルキャリア「フリービットモバイル」（現トーンモバイル）のブランディングと製品設計に従事。2014年には株式会社アトモスデザインを立ち上げ、ロボット／AIを含むIT製品の設計と開発を支援。電通グループ／ソフトバンクグループのような大手からスタートアップまでを対象に幅広い事業に関わる。現在は外資系IT大手にて製品マネージャーを務める。最近の悩みは、自分の人間としてのハードウェアの性能の限界に直面していること。
