写真はイメージです Photo:PIXTA
「AIは自分のことを誰よりもわかってくれる」――いつでも話を聞き、自分の意見に寄り添ってくれる対話型AIに、そう感じる人もいるかもしれない。しかし、その「居心地のよさ」にこそ危険が潜んでいるという。言語脳科学者の酒井邦嘉氏とノンフィクション作家の柳田邦男氏が、AIを「絶対的な理解者」にすることで、人間の思考や対人関係に何が起こるのかを語り合う。※本稿は、言語脳科学者の酒井邦嘉『AI脳クライシス デジタルは人から何を奪うのか』（集英社インターナショナル）の一部を抜粋・編集したものです。
AIは人間の「気持ち」を
理解しているわけではない
酒井 昨今、生成AIの話題が毎日のように取り上げられ、その利用についての報告がありますが、私は生成AIの安易な活用について、非常に強い危機感を持っています。科学的な研究の延長線上にこの技術があることは理解できますが、技術自体が独り歩きし、人間が本来持つ創造力や心のあり方に悪影響を及ぼす可能性があると強く感じているからです。
柳田先生は生成AIについてどのように感じていますか。
柳田 生成AIという新しい技術は、人間の知性・感性の根幹に触れる問題をはらんでいると思います。人間の知的活動の中で最も大切な言語機能、あるいは思考の営みに関わる技術の導入がいったいどんな意味を持つのか、哲学的に捉えなければならないでしょう。
一度開発された技術の使用は止められないという意見もありますが、私はこのAIを人間社会の中、特に学校教育の中に取り入れることに対して、専門家だけでなく、教育に関わる教師や親も含め、一人ひとりが深い造詣を身に付け、是非を考えるべきだと考えています。それくらい重大な問題を含んでいると受け止めています。
酒井 本当にそのとおりだと思います。「教育とは何か」といったことや「言葉や思考はどうして人間にしかないのか」、もっと言えば「どこまでが言葉なのか」「何が対話なのか」、そうした根本的なことを問い直す機会は今まで少なかったのです。そうしたことが議論されないまま、技術ありきで、「生成AIを賢く活用しよう」という方向に議論が大きくシフトしているように思えてなりません。
しかし、そもそも生成AIは喧伝されているような素晴らしい技術革新なのかということを私は疑問視しています。なぜなら今言ったように、人間の思考や言語というのはまだ科学的に解明されておらず、生成AIにできるのは言葉を並べて文章を作ったり、疑似的な対話をしたりすることだけだからです。相手の気持ちや言葉の周りにある背景を解析することはできません。
それなのに、作られた文章や対話を利用者が自分で勝手に解釈して、理解したような感覚に陥るのはとても危険です。現在のまま利用を促進していけば、考えたり、想像したりする力がどんどん衰えるのではないかと危惧しています。
対話型AIへの依存で
脳の働きが壊れていく
柳田 以前からスマートフォンへの依存の問題が指摘されてきましたが、同じように生成AIへの依存も問題です。テレビで見たのですが、ある学校では生徒たちが課題について議論して答えを出した後、それをAIで確認していた。合っていると全員がほっとした表情になりました。彼らはAIが「神の声」のように絶対的に正しい答えを出してくれると思っているように見えました。
人間は依存に陥る危険性を持っています。麻薬やアルコールだけでなく、スマホのように便利なもの、ちょっと面白いものにも傾斜していく。同じようにAIに依存することで人間の主体性や創造的な考え方、自分が感じたことを言語化するという脳の働きが壊れていくのではないでしょうか。
