【出口治明学長】
実に1万年も脳が進化していない人間は、
AIとどう共存していくのか？

人間の脳が理解できる範囲内で技術を使う

星：アメリカでは、「AIによる犯罪予測」が司法の現場で活用されてきました。

刑事事件の被告が再び罪を犯す危険性を自動判定し、アセスメントを出す。そしてそれをもとに、裁判官が判決を言い渡します。

近年、このAIプログラムにバイアス（偏り）が指摘されて大きな問題になりました。判例と照らし合わせれば「執行猶予付き」ですむようなケースでも、AIが実刑判決を出したことがありました。元々存在した、司法判断でのアフリカ系アメリカ人へのバイアスが、そのAIプログラムによって増幅されてしまったのです。

AIはもともとあるデータから学習してアセスメントを出していたのですが、元々フィードされるケースにバイアスがあり、そうしたケースから学んでいるうちにそのバイアスをより大きくしてしまったということです。

また、「AIによる犯罪予測」の問題点のもう一つに、判決までのプロセスが可視化されていないこということもあげられます。人間には扱うことが不可能なほどの膨大な量のケースを読み込みながら、判断を下す。

つまり、AIがなぜそのような判決を出したのか、人間にはわからないのです。

一方、現代の司法制度では、一歩一歩証拠を明確にしながら、決断理由を可視化していくという体裁を取っています。

最終判断にいたる理由が明確化されて、示されるという形式を撮っているのです。

出口：現在の自由意思の存在を前提とした裁判制度や刑法は、脳科学の見地から考えると、必ずしも整合的ではないと思います。

けれど、現在の人間社会の常識や心理に対応させようとすれば、今の裁判制度や刑法は最も納得的、説得的で、みんなが受け入れやすい。だから虚構であるけれども、社会が安定していると理解すべきですよね。

AlphaGo（アルファ碁）の話が一番わかりやすいと思っていて、アルファ碁が強くなった理由はすごく簡単です。

囲碁のルールを教えて、過去の名人戦を全部映像で覚えさせて、後はアルファ碁同士で対局させます。

人間の対局では、脳が疲れますから、一生かかっても1万回対局できるかどうかわからない。

けれどAIは疲れませんから、数十万回、数百万回打てる。強くなるのは当たり前です。1万回しか打てない人間には、「数百万回打てるアルファ碁がどうしてこの手を打ったのか」は永遠に理解できません。

人間が理解できないものをどこまで使うのか、それを決めるのも人間です。

脳の活動の中で意識できる部分は1割もないそうです。だから、たいしたことはできない。けれど、その1割の部分で考えて答えを出す以外に、人間社会を安定させる方法はないわけですよね。

科学技術を使えば、なんでもできるかもしれない。けれど、現時点における人間の脳が理解できる範囲内でAIを上手に使っていかないと、社会を安定させることはできない気がしています。

星：本当にそのとおりだと思います。例えば、先程の司法制度。一歩一歩証拠などを積み重ねて判決への理由を可視化する形式をとってはいますが、最終的に何が真実であるかはわからない。「神のみぞ知る」というケースがいくつもありますが、司法制度上、判決の理由を明確にして示すことになっている。

そうすることによって、社会の中で、合意しようという、まさに、出口先生のおっしゃるところの人間社会の「知恵」が働いているのではないかと思います。

　過去の僕の『哲学と宗教全史』全連載は「連載バックナンバー」にありますので、ぜひご覧いただき、楽しんでいただけたらと思います。

ここ最近、妙に読まれている、人気記事

☆ 【出口治明学長】日本一賢い天皇と日本一賢い部下の最強コンビが救った日本の窮地
☆ 【出口治明】日本は鎖国ができて中国は鎖国ができなかった理由
☆ 【出口治明】なぜ、仏教は「538年」に伝来したのか？
☆ 【出口治明】日本の出生率を上げるたった1つの方法