世界の科学者は「AIが意識を持つ可能性」をどう考えているか

AIが意識を持つ可能性について、科学者たちは長年議論を重ねてきた。しかし、最近のAIの急速な進化、とりわけ生成AIの登場により、この議論は新たな次元へと移りつつある。今回、神経科学の第一人者であるカンデル博士が一般読者向けに執筆した『脳科学で解く心の病』（大岩ゆり訳、築地書館）と、池澤夏樹さん、竹内薫さん、最相葉月さんらが書評で取り上げた『脳を開けても心はなかった』（青野由利著、築地書館）の2冊に、『ダマシオ教授の教養としての「意識」』（ダイヤモンド社）を加えた3冊を俎上に、いずれも科学記者である大岩ゆりさんと青野由利さんが、AIの心と意識をどう判断するかについて、さまざまな視点から話し合った。特に、「機械に意識があるかどうか」を見極める方法や、AIに意識があると信じる人々の出現がもたらす倫理的な課題に焦点を当て、未来の社会におけるAIと人間の関係を考察した。（構成：大岩ゆり、青野由利、ダイヤモンド社書籍編集局）

AIは意識を持つのか

青野由利（以下青野）：AIが意識を持つのかということについての論争、これは古くて新しいテーマですよね。

　ただ、ここまでAIの能力が上がってくると、これまでとは異なるフェーズに入る可能性があります。

　AIは第1世代から冬の時代を経て、第2世代があり、また冬の時代があって、今の第3世代で本当に能力が上がったと思われているんですね。特に生成AI、ChatGPTあたりからそう思われるようになりました。

大岩ゆり（以下大岩）：青野さんの本は作家の池澤夏樹さんや、サイエンスライターの竹内薫さん、ノンフィクションライターの最相葉月さんも書評に取り上げていますが、みなさんAIの発展に注目していますね。

青野：もちろん、以前から「機械（マシン）は心を持つか。意識を持つか」という論争はありました。古いところで言えば、『2001年宇宙の旅』のHAL 9000ですね。宇宙船に積まれたコンピューターですが、意識を持って反逆を起こしてしまう。

『2001年宇宙の旅』はキューブリック監督の映画とアーサー・C・クラークさんのSF小説があるのですが、非常に象徴的に「機械は意識を持つか」という論争に一石を投じました。これはあくまでSFでしたが、今や現実の問題に近づいています。

　最近のChatGPTのようなAIは総称してLLM（Large Language Model）と呼ばれますが、LLMの進化によって、あたかも人間のように受け答えをするので、この人は、いや人じゃないですね、この相手は意識を持ってるんじゃないかと思いがちになるのです。

　実際、Googleの研究者が2022年に、自分が会話していたAIが意識を持ったと言い出して、結果的には解雇されてしまって。グーグルは「内部資料の守秘義務に違反したから」と言ったそうですが、とにかくこうしたことが話題になるようになったのです。

　今の意識研究者、科学者、哲学者のほとんどは、現時点のAIが意識を持っているとは言いません。でも、将来どうなのかについてはいろいろと意見はわかれて、意識を持つ可能性があると考える人もいて、この辺は微妙なところですね。

　たとえば『脳を開けても心はなかった』で取材したイギリスの神経科学者アニル・セスさんが言うには、本当に意識を持ったかどうかは別として、その手前で、Googleの研究者のように、意識を持ったと思う人間が出てくるでしょうと。

　このAI、このマシン、このロボットには意識がある、と人々が思うようになる。そのリスクを考えなくてはならないと言っていて、なるほどと思いました。

さまざまな対象に意識・命を感じる日本人

大岩：すでに現在もかなりそうなっていますよね。ペットロボットなどは、会話しているように感じている人が多いのでは？

青野：そうですね。電源を切ることができなくなる、なんてことが起きるわけです。たとえばかつてソニーが開発した犬型ロボット「アイボ」を、いつまでも修理して生かしておきたいという人の心理は理解できます。こうしたことがさらに更新されていく可能性があるということですね。

　私が興味を持っているのは、そうした感覚は日本人と海外の人とで違いがあるのかどうかです。以前、小惑星探査機「はやぶさ」がさまざまなトラブルを乗り超えて小惑星に行って帰ってきて、サンプルを地球に届けたことがありました。

　その時、「はやぶさ君、おかえり！」という声がネット上にあふれ，多くの人が「傷だらけになって故郷に帰ってきたはやぶさ」に涙しました。「はやぶさ」が大気圏に突入して燃えてなくなったときには、「はやぶさ君が死んでしまうのは嫌だ！」という感情的な反応もありました。

大岩：へぇ！ そんな反応があったんですね。

青野：あれは単なる機械ではなく「はやぶさ君」だったわけです。はやぶさ君のエンジンを作成した技術者が4つのエンジンに名前を付けていたという話さえありました。このように「機械に命をみる」文化は、日本人特有なのかどうか。当時は、とても日本人的だという意見が出ました。

　私はこの現象に興味をもって「はやぶさ現象にみる心と脳」という論考を学会誌に書いたことがあります。

大岩：それは日本人特有なんですか？ アメリカなどでもそうじゃないですか？ 自分の車の名前をつけるとか。「たまごっち」や似たようなアプリが、世界中で人気あるのにも、通じるところがあるような気がします。

青野：そうですね。そうやって、物に命を見るのは、どんなカルチャーでも多かれ少なかれあるのかと思います。ただし、背景に持っているカルチャーによって、その程度は違ったりするのかもしれない。何に対して命をみるかというのも違うかもしれません。

AIの心と意識はどう判断するか

大岩：青野さんは著書で、AIや機械が心や意識を持っているかどうかを調べるテストをいくつか紹介していますが、実際にどうやって調べるのか、あるいはどうやって判断するかは、すごく難しいと思いました。

青野：AIに人間並みの知性があるかどうかを調べる「チューリング・テスト」という有名なテストがありますが、IIT理論では機械の意識を測定する方法もあるようです。でも、すんなり理解できません。むしろ、相手が機械であることを知ったうえで、それでも「相手には意識がある」と思うかどうかをテストする「ガーランド・テスト」の方がわかりやすいです。

大岩：アントニオ・ダマシオさんは、『ダマシオ教授の教養としての意識』の中で、ロボットは心を持つかもしれないけれど、意識は多分、当面は持つことはないと書いています。心と意識の関係もついての理解も難しいと思いました。

青野：そうそう。だからダマシオさんは心と意識を別のものとして提示しているんですよね。これも難しい。どちらがどちらに含まれるのかも、人によって考えが違うと思うんです。どちらが広い範囲なのか。意識を持っているものが、心を持つのか。心は持っているけど、意識を持たないものがあるのか、もしくはその逆なのか。

　人によって使い方が違ったりもするので、この辺は難しい。その共通理解が入り乱れていて、わかりにくいところだなと思いますね。

大岩：でも、青野さんが書いているように、事前にそうなる可能性があるという前提で、いろいろな倫理的な問題を考えておく必要はありますね。定義がどうであれ。

青野：本当に意識を持ったAIやロボットができるということも念頭に置いて、対処を考えておく必要があるという主張はその通りだと思います。

　無人兵器やAI兵士といった話もきっと入ってくるでしょうし、そういう点まで含めて、倫理的、社会的課題は考えておいた方がいいという話ですよね。意識の謎を解けばいいというだけではない。

カンデル博士が解き明かす心の病の真実

大岩：先ほども話したように、今、脳科学で残された未知の大きな分野は意識についてです。25年前には科学者が意識を研究するのはある意味でタブーだったわけですけれども、1世紀ほど前には、精神疾患も研究するのはタブーでした。

　カンデルさんが、『脳科学で解く心の病』を書いた理由のひとつは、そんな精神疾患について、最近、脳科学や認知心理学などの研究でかなり科学的にわかってきたことがたくさんあるからです。

　その一つは、精神疾患は、誰もがみんな日常生活で経験している感情や気持ち、例えば嬉しい、悲しい、物を忘れるなどといった、みんなが日々、経験している状態が高じて、しかも慢性的にずっと続いてる状態で、かつそのために日常生活に支障が出ている状態である、ということです。

　誰もが経験していることが高じ、慢性化した状態である精神疾患を調べることで、逆に、日常的な感情や気持ち、物忘れなどがどのように起きているのかがわかるのではないか。そのようなアプローチでこの本は書かれていいます。

　もう一つ科学的に明らかになってきたことは、すべての精神疾患には、生物学的な背景があり、生物学的な理由により、本人の意思とは関係ないところで起きている、という点です。

　歴史的に精神疾患は偏見の目で見られがちでした。事故や身体の不調、たとえば骨が折れるとか皮膚が焼けているといった視覚的な所見や、血圧や血糖値などの検査で客観的に診断できる外傷や疾患とは異なり、精神疾患を客観的に診断するのが難しかったからです。

　精神疾患の多くは、本人の心が弱いからとか、意志が弱いからとか、親の育て方が悪かったからなど、本人や家族に問題があるから生じるとみられてきた歴史があります。でも、ここ1世紀の科学研究で明らかになったのは、本人の意思や親の教育とは無関係に、身体の不調と同じように、生物学的な理由で精神疾患は起きている、ということです。

　カンデルさんは、そういった点を科学的に解説することで、精神疾患に対する偏見がなくなることを期待して、本著を執筆しました。また、現在は神経科と精神科は別々の診療科として存在していますが、将来的には一緒になるのではないかと予想しています。

　さらに、その方向をさらに進めて拡大し、人文科学と精神科・神経科、脳科学などを融合させることで、新しいヒューマニズムが誕生するのではないか、と希望しています。

どこから病気か、の線引きは変わっていく

青野：5月18日の日本経済新聞の書評欄で脳研究者の池谷裕二さんが、『脳科学で解く心の病』に書評を書かれてますけど、やはり池谷さんもそのあたりを指摘されてますね。

大岩：そうですね。これは余談ですけれども、その書評の中で「カンデル先生の洗練された筆運びを先導とした知的探求の旅」と書いていますが、確かに、本著の原文は、洗練された筆運びなんです。

　それもそのはずで、実はカンデルさんは、高校時代は新聞部に所属して、スポーツ担当記者だったんですって。高校生時代から執筆が好きだったのが、著書にいかされています。

青野：でも、翻訳者の能力も重要だと思いますよ。

　それははさておき、今の話ですと、精神疾患というのは実は、普通の人たちの日常生活の普通の感情の動きと地続きのものである、ということなのですね。

大岩：そうですね。

　だから、どこからを病気として、どこからそうじゃないとするかの線引きは、歴史的に結構変わってきています。現在の診断で重要なのは、日常生活に支障が出ているかどうかと思います。

精神疾患と薬物治療

大岩：精神疾患の種類によっては、薬物治療が非常に重要です。けれど、カンデルさんが強調しているのは、薬物治療だけでなく、精神分析も含めた精神療法も非常に重要だという点です。

　その理由としては、学習と記憶によって脳の神経回路が大きく変化するからです。精神療法は一種の学習なので、精神療法によって神経回路が変化し、それによって症状が改善する可能性があると十分に考えられるため、重要だと書いています。

　その一方で、カンデルさんは元々、精神分析医として臨床をしていたことがあるので、精神療法については是々非々で評価しています。

　フロイトの時代の精神分析は非常に大きな成果を上げたけれども、その後は長らく、治療者が患者さんから話を聞いてそれを記述して仮説を提唱するだけで終わっていて、仮説を科学的に分析し、実験で検証して普遍性があるかどうか検証することを長らく、怠ってきたとカンデルさんは批判しています。

　特に脳科学がどんどん進み、脳科学で精神的な活動が分析できるようになったにもかかわらず、精神分析学では脳科学の知見を採り入れようとしてこなかったのが、自分としては非常に残念であると書いています。

　ただし、最近10年か20年ぐらいの間に、例えば認知行動療法といった精神療法の効果を、薬の効果を調べるのと同じように、対照群を置いた研究、つまり精神療法を受ける患者さんグループと受けないグループに分けて効果を検証する研究を行い、科学的に効果を確かめる研究者が登場しているので、今後さらに科学的な検証を進めていけば、精神療法は科学的に確立した療法になるだろうと、カンデルさんは予測しています。

　うつ病などの一部の精神疾患では、薬が効かない患者さんもいるのですが、最近は、この人は薬が効くから飲んだ方がいい、あるいはこの人は精神療法の方がいいということを、ある程度、診断できるようになってきているそうです。あらかじめ薬が効かないとわかっていれば、効果のない薬を飲まなくてすむので、患者さんのメリットも大きいと思います。

前編は【最前線の科学記者が考察】ノーベル賞受賞者たちが意識の研究に没頭する理由