人工知能による「啓蒙」はなぜ危険か
1950年代に開発された最初の頃の人工知能では、チェスのゲームをしたとき、素人にさえ負けるレベルでしたが、最近では世界チャンピオンにも勝つようになっています。囲碁でもGoogleによるＡＩ「アルファ碁」の目覚ましい活躍は記憶に新しいことでしょう。また、車の自動運転が実用化され、公道でも事故を起こさずに運転できるようになっています。こうした進歩を考えるとき、カーツワイルでなくても、「技術的特異点は近い」と言いたくなるのではないでしょうか。
しかし、ボストロムの引用でも分かりますが、人工知能が人間の知能を超えるようになったら、人間にとって危険な状況（脅威）になるのではないでしょうか。
人工知能が脅威となるとき、根本にあるのは、それが人間から「自立化・自律化」することにあります。最初の頃の人工知能は、人間があらかじめ規則や推論を設定したり、知識を教えたりするものでした。そのため、そうした規則や知識を超えた状況に出会うと、うまく対処できなかったのです。
ところが、20世紀末から膨大な「ビッグデータ」が蓄積され、それにもとづいて人工知能が「機械学習」や「ディープラーニング」を行なうことによって、いわば自己進化していく人工知能が開発され始めています。厳密に考えると、現在においては、「人工知能が自律的に学習する」とは言えません。しかしながら、その方向に進みつつあるのは明らかではないでしょうか。
いつの日か、自律するＡＩが登場し、とてつもない速さで自己改造を始めるかもしれません。生物学的進化の遅さに制限される人間がこれに対抗できるはずもなく、いずれ追い越されるでしょう。
では、この「自律型の人工知能」は、いったいどこへ向かうのでしょうか。これを考えるとき、ヒントになるのは、アドルノとホルクハイマーが「啓蒙の弁証法」（1947年）と名づけた概念です。彼らは、第二次世界大戦中、亡命先のアメリカで『啓蒙の弁証法』を執筆し、近代社会の未来について、次のような疑念を表明したのです。
何故に人類は、真に人間的な状態に踏み入っていく代わりに、一種の新しい野蛮状態へと落ち込んでいくのか。
一般に、「啓蒙」というのは、人間を無知蒙昧な迷信から解放する「合理的な理性」を意味しています。近代科学や近代市民社会や資本主義経済などは、この「啓蒙」によって生み出されたものです。
ところが、アドルノとホルクハイマーによれば、こうした合理的な「啓蒙」は、やがて自分自身を否定するようになり、「反‐啓蒙」である神話や暴力へと転化する、というわけです。この「反‐啓蒙」として、彼らはナチズムやスターリニズムなどの「全体主義」を見ていました。
このような「啓蒙」から「反‐啓蒙」への弁証法は、人工知能の未来を考えるとき、一つのモデルとなるように思えます。人工知能は「人間のような知能」をもつために作製されたのですが、今や人間と同じように「自律的学習」ができるようになって、さらには「人間の知能」を大きく超え出ようとしています。
人工知能が人間から自立化し、モノ同士で相互にコミュニケーションできるようになり始めました。とすれば、やがて、人工知能が人間に対抗することも大いにありうることでしょう。
【新刊のご案内】
『いま世界の哲学者が考えていること』岡本裕一朗著・9/9刊行
定価：1600円（税抜）全国書店で発売中！
21世紀最先端の哲学者が描き出す人類の明日とは？
【ＩＴ革命とＢＴ革命が人類の未来を変える？】
【世界が再び宗教へと回帰していくのはなぜなのか？】
【資本主義は21世紀でも通用するのか？】
――世界の難問がこの一冊でクリアに解ける！
登場するのは世界最前線の哲学者たち。
マルクス・ガブリエル、カンタン・メイヤスー、リチャード・ローティ、ユルゲン・ハーバマス、ダニエル・デネット、ニック・ボストロム、ベルナール・スティグレール、トマス・マシーセン、マウリツィオ・フェラーリス……
いつまでも「哲学=人生論」と思っているのは日本人だけ！
◎ゲノム編集、生命延長……人間の身体はどこまで改変できるか
◎脳科学が犯罪者になる人間を予測する？
◎人類絶滅以後の世界を思考する「21世紀の時代精神」とは
……いま、世界の哲学者が考えている人類の未来の姿とは？
ご購入はこちら！
>>>［Amazon.co.jp］ ［紀伊國屋書店BookWeb］ ［楽天ブックス］
▼第1章 世界の哲学者は今、何を考えているのか
◎ポストモダン以後、哲学はどこへ向かうのか
◎「真理」はどこにも存在しない
◎人間消滅以後の世界をどう理解するのか
◎道徳を脳科学によって説明する
▼第2章 ＩＴ革命は人類に何をもたらすのか
◎人類史を変える二つの革命
◎スマートフォンの存在論
◎シノプティコン――多数による少数の監視
◎ビッグデータと人工知能ルネサンス
◎人工知能によって啓蒙される人類？
▼第3章 バイオテクノロジーは「人間」をどこに導くのか
◎「ポストヒューマン」誕生への道
◎人間のゲノム編集はなにを意味するのか
◎クローン人間の哲学
◎不老不死になることは幸せなのか
◎犯罪者には道徳ピルを飲ませる？
▼第4章 資本主義は21世紀でも通用するのか
◎近代が終わっても資本主義は終わらない？
◎格差は本当に悪なのか
◎自由主義のパラドックス
◎フィンテック革命と金融資本主義の未来
◎グローバリゼーションのトリレンマ
▼第5章 人類が宗教を捨てることはありえないのか
◎多文化主義から宗教的転回へ
◎多文化主義モデルか、社会統合モデルか
◎宗教を科学的に理解する？
◎グールドの相互非干渉の原理
◎創造説とネオ無神論
▼第6章 人類は地球を守らなくてはいけないのか
◎経済活動と環境保護は対立しない？
◎環境プラグマティズムは何を主張しているのか
◎地球温暖化対策の優先順位は？
◎終末論を超えて
