生成AIの爆発的な普及により、先進テクノロジーの倫理的・法的・社会的課題が議論の的になっている。すなわち、ELSI（Ethical, Legal, and Social Issues）の重要性の認識である。これらの課題は国・地域や個人の価値観に左右され、時とともに揺れ動く。そして、政策立案や企業活動に大きな影響を及ぼす。こうした動的かつ包括的な課題に対応していくためには、どのような姿勢と知性が必要なのか。AI技術に詳しく、国際的なAIガバナンスの構築にも携わっている中央大学国際情報学部教授の須藤修氏に聞いた。
完全自動運転の社会的意義は
はたしてどこまであるか
編集部（以下青文字）：米カリフォルニア州では２０２３年10月、その２カ月前に許可が下りたばかりだったＧＭクルーズの無人自動運転タクシーの営業許可が停止されました。別の車にはねられた歩行者を回避できず、自動運転タクシーが倒れた歩行者を引きずる事故を起こしてしまったことが原因です。ソフトウェアの不具合のほか、当局との意思疎通の不足も指摘され、ＣＥＯが辞任する事態になりました。
同社はカリフォルニア州以外の地域でも自動運転タクシーの営業を止めて安全性を検証していますが、信頼を取り戻すには時間がかかりそうで、事業そのものの基盤が揺らいでいます。先進テクノロジーの社会実装の難しさを象徴する出来事の一つといえるのではないでしょうか。
中央大学 際情報学部 教授 同大学ELSIセンター 所長須藤 修
OSAMU SUDOH東京大学大学院経済学研究科博士課程単位取得退学、経済学博士。現在の専門は情報学、応用経済学。1999年4月より2020年3月まで東京大学教授。この間、東京大学大学院情報学環長・学際情報学府長（2012年4月～15年3月）、東京大学総合教育研究センター長（2016年4月～20年3月）。2020年4月中央大学国際情報学部教授、2021年4月同大学ELSIセンター所長。2020年4月～23年12月東京大学大学院情報学環特任教授、2021年10月東京財団政策研究所研究主幹（2024年3月31日まで）。内閣府「人間中心のAI社会原則会議」議長、総務省「AIネットワーク社会推進会議」議長、官民国際連携イニシアティブ「GPAI」（AIに関するグローバルパートナーシップ）の日本代表委員など多数の委員を歴任。
須藤（以下略）：報道によるとかなりイレギュラーな事態が重なって起こった事故のようですが、いまの自動運転車に搭載されているＡＩは特定用途型で、事前に学習させたこと以外は適切に対処することが困難です。今回のような事態を想定していなかったという意味では、開発側の初歩的なエラーともいえます。
以前アメリカで、警察官が手信号で停止を指示したのに自動運転タクシーが素通りしてしまったということがありましたが、原因は同じです。たとえば、警察官が「おい、止まれ」とか、「行ってもいいぞ」と声をかけたら、車が状況を理解し、判断して動けるか。優れた自然言語処理能力を持つ最新の生成ＡＩを搭載していればうまく対処できるかもしれませんが、これまでの特定目的型ＡＩであれば対応は不可能でしょう。
そもそも交差点は事故が起きやすい。車が右折する時には、直進してくる対向車との間合いを測るのが難しいし、曲がった先の横断歩道を渡るベビーカーや自転車などにも注意しなければなりません。すべての交差点にカメラなどのセンサーを設置して、街角に置いたサーバーがエッジコンピューティングでデータを瞬時に処理し、車と交信しながら安全走行をサポートするといった仕組みを整えれば事故を回避できるでしょうが、そのインフラを都市全体で整備しようとすると莫大な投資が必要です。自動走行車のためだけにそこまでの公共投資を行う社会的意義が、はたしてどこまであるのか。
米ＭＩＴ（マサチューセッツ工科大学）でのシンポジウムにパネリストとして参加した時もその議論になりました。アメリカの研究者は、「ｅＶＴＯＬ（電動垂直離着陸機、いわゆる〝空飛ぶクルマ〟）なら交差点での事故は起こらない」と主張しましたが、ヨーロッパの研究者たちは懐疑的でした。空中で衝突したり、姿勢制御を誤ったりしたら搭乗者だけでなく、地上にいる人間が巻き添えを食うことになり、自動運転車よりさらに危ないというように私は思いました。
科学者や技術者が先進テクノロジーの開発に取り組むのは当然のことです。ただ、科学技術がもたらす恩恵を見据えつつ、その発展や社会実装をインクルーシブ（包摂的）な視点からコントロールする政策やルール、インセンティブなどによるガバナンスを利かせないと、社会的なデメリットのほうが大きくなってしまうリスクがあります。
だからこそ、自然科学や人文・社会科学の英知を結集し、先進技術の倫理的・法的・社会的課題、つまりＥＬＳＩの観点から、全体最適化を図る研究が必要なのです。
