これからの時代に
求められる道徳観

 もともと鄭教授は高校生の頃は哲学に関心があり、大学では哲学を専攻しようとも考えていたという。それもあって、もう一度、哲学をやろうと考えたという。だから理系教授でありながら、道徳のメカニズムに関する本を書いた。それが『東大教授が考える 道徳のメカニズム』である。

 この本の要諦は、「人を殺すことがなぜ、いけないのか?」という問いへの回答だ。100万人を殺せば英雄なのに、数人を殺したら犯罪者になる。それはなぜかという問いは、少し前に日本でも大流行した問いだが、明確な答えを出した識者はいない。しかし、鄭教授は明確な論理で回答している。

 その回答の要点は、「コミュニティ」だ。人間はコミュニティを守ろうとする動物である(動物は何でもそうだが)。だから、コミュニティの仲間を殺すことは重罪となる。仲間殺しはコミュニティにとっては最大の脅威だからだ。しかし、コミュニティの外敵を殺すことは、コミュニティを守ることになる。だから、戦争で敵を殺せば、コミュニティを守ったことになり英雄となる。

 これは非常にロジカルで明快な回答だが、この理論を推し進めて、普遍的な道徳のメカニズムいついて解説したのが近著『東大教授が挑む AIに「善悪の判断」を教える方法』(扶桑社刊)である。

 鄭教授はまず、道徳を「共通の道徳」と「個別の道徳」に分ける。たとえば「仲間を殺してはいけない」「仲間のものは盗んではいけない」「仲間をだましてはいけない」という道徳は、「仲間に危害を加えてはいけない」と要約され、あらゆる文化、宗教、国に“共通する掟(道徳)”だ。これは、しっかりと守らねばならない。しかし、たとえば「牛を食べてはいけない」とか、「豚肉を食べてはいけない」「お酒を飲んではいけない」などは、“個別の掟(道徳)”である。そして、この「個別の道徳に対して受容し寛容であること」が、これからの時代はますます重要になるという。そしてAIに対しては、「共通の道徳」を教え込む。

 同時に鄭教授は、人間の道徳レベルを4段階に分類する。道徳レベル1は利己主義者で、自分のことしか考えない。道徳レベル2は仲間を意識するが、まだ個人は利己的な要素が残り、仲間はあくまで競争や支配の対象だ。仲間からの評価から生み出される「信用」がこのレベルの特徴だともいう。SNS時代になって顕著になった「いいね!」をほしがる承認欲求は、このレベル2なのだろう。

 道徳レベル3では、個人と社会は一体化し、利他的、自己犠牲的になるが、それはあくまで自分が属するコミュニティだけの話である。民族主義的な人間はこのレベル3なのだろう。そして道徳レベル4では、社会間の壁を越えて、共通の道徳を守る範囲において、他のコミュニティの個別の道徳も受け入れる多様性が特徴である。鄭教授の調査によれば、この道徳レベル4に達する人間は、たったの1%程度しかないという。このレベル4の道徳をAIに搭載する――それが鄭教授が取り組んでいるプロジェクトなのだ。それが実現すれば、まさに最高レベルの道徳をAIが有することになる。