なぜ人工知能は哲学的に危険なのか

世界の哲学者はいま何を考えているのか――21世紀において進行するＩＴ革命、バイオテクノロジーの進展、宗教への回帰などに現代の哲学者がいかに応答しているのかを解説する哲学者・岡本裕一朗氏による新連載です。いま世界が直面する課題から人類の未来の姿を哲学から考えます。9/9発売からたちまち重版出来の新刊『いま世界の哲学者が考えていること』よりそのエッセンスを紹介していきます。第8回は人工知能の発展が人類にもたらす影響を哲学の系譜の上に位置付けて解説します。

超知性としてのＡＩを哲学する

人工知能の研究は、1950年代から始まり、過去2回のブームを経て、現在は第3段階に立っている、と言われています。過去2回のブームでは、あらかじめコンピュータに規則や推論、知識などを教え込み、そこから現実世界の具体的問題を解決しようと目ざしていました。

しかし、具体的な状況は、決して一律ではなく、例外もあれば、偶発的な出来事も生じます。日常生活での会話を考えてみれば分かりますが、現実はきわめて変化に富み、規則的に行われることがありません。とすれば、そもそも人間の知能に匹敵する人工知能を作製できるのか、と不審に思うでしょう。

じっさい、アメリカの哲学者ヒューバート・ドレイファスは、早くも1970年代に『コンピュータには何ができないか』を書いて、「人工知能の限界」について次のように主張しました。

われわれは情報処理レベルにおカネと時間をこれ以上費やす前に、（中略）コンピュータ言語が人間の振舞いの分析に適切であるということを示唆しているのかどうかを問わなければならない。離散的、確定的で文脈に依存しない要素の、規則に支配された操作によって、人間理性を分析しつくすことはできるのだろうか。そもそもこの人工理性という目標に接近すること自体可能なのだろうか。いずれの問いの答えも「ノー」であるように思われる。

しかし、今日、こうした状況が大きく変わろうとしています。たとえば、人間に代わって自動運転する車のニュースはご存じだと思いますが、これに搭載されているのが人工知能です。具体的な状況の多様な変化を見極め、即座に適切な対応を取ることができるようになったのです。そうでなければ、事故ばかり起こすことになりそうですが、そうした事故もほとんど起こることなく、周りの環境に柔軟に対処できるようになっています。

あるいは、iPhoneをお持ちでしたら、「Siri」と呼ばれるアプリケーションを使われたことがあるでしょう。たとえば、自然言語で「△△を検索して」と話しかけると、それに対応する内容を答えてくれます。つまり、話している内容を理解して、それに応じた答えをしてくれるわけです。今のところ、幾分ぎこちないとはいえ、それでもある程度役に立ちます。このiPhoneに搭載されているのも人工知能です。

こうした最近の人工知能は、従来型とは違って、多様に変化する具体的な状況から出発し、いわば自律的に学習していくように見えます。そのため、「機械学習」とか「ディープラーニング」などと呼ばれていますが、これによって人工知能の能力が飛躍的に向上しました。

そして、こうした人工知能が自律的に学習するに当たって、情報として与えられたのが「ビッグデータ」に他なりません。インターネットによって集められた「ビッグデータ」を、人工知能は「ディープラーニング」するための素材とするのです。情報量が膨大ですので、人工知能は突然の変化や例外にも適切に対応できるわけです。

こうして、今、ビッグデータを背景にして、人工知能研究の爆発的な発展が、引き起こされようとしています。

スウェーデン出身のオックスフォード大学の哲学者ニック・ボストロムは、2014年に『スーパー・インテリジェンス 道行き、危険、戦略』を出版しています。ビル・ゲイツが「この本を強く推薦する」と述べたこともあって、ボストロムの書物は大きな波紋を惹き起こしました。その中で彼は、次のように語っています。

いつか私たちが、一般的知性において人間の脳を凌駕する機械の脳をつくるならば、その時にはこの新しいスーパー・インテリジェンス（超知性・超知能）はきわめて強大になるだろう。そして、ゴリラの運命が今、ゴリラ自身というよりも、私たち人間にいっそう依存しているように、私たち人間という種の運命も機械のスーパー・インテリジェンスのアクションに依存することになるだろう。

つまり、人間の知性（知能）を超える機械の「スーパー・インテリジェンス」が、「技術的な特異点」において出現するわけです。こうした予想は、荒唐無稽な妄想というべきでしょうか。しかし、人工知能の発達を顧みると、あながち間違っているとは言えません。