上の概念図で説明すると、ブレーキが壊れた(あるいはブレーキをかけても間に合わない)トロッコがある。そのままAの方向に進めば3人と衝突する。一方、分岐点でBの方向に進行を切り替えれば、衝突するのは1人。さあどちらの選択が正しいのか、という思考実験だ。概念図は線路なので走行ルートは限られているが、実際の道路上では例えば急ハンドルを切って壁に激突して自損事故(被害者は運転手、乗員のみ)という選択肢もある。

 操縦主体がドライバーならば、どの判断をするにせよ、責任者は人間。一方、システムが操縦主体の自動運転下では、システムが責任者となる。システムの選択基準をあらかじめ設定することになるのは、自動車メーカーになろう。ケースごとに「社会的合意を得られる判断をあらかじめ考えておくことが必要になるのでは」、ということで自動車業界や保険業界などを中心に関心が高まっている。

 米マサチューセッツ工科大学は、「モラル・マシーン」という名のウェブサービスで、世界規模の調査を実施している。トロッコ問題に関わるさまざまな運転場面を想定し、イラストを交えて質問。例えば「直進すれば壁に激突して複数の乗員に死傷者が出るが、ハンドルを切れば乳児を含む複数の男女をはねる(ただし男女が歩いている横断歩道の信号機は赤色)」といった具合だ。回答傾向を分析したところ、社会的合意を得られる判断が国によって大きく違うことが浮き彫りになった。日本は世界平均と比べ、歩行者、法令順守、不作為(ハンドルを切ることで被害者を選ばない)を優先する傾向が強い。中南米では、社会的地位の高さ、子ども、女性の優先度が高い。欧米は不作為の傾向が強かった。

 学者らの間でトロッコ問題の議論が過熱する一方、「ただの思考実験なので勝手にやってくれ。自動運転社会ではそもそもトロッコ問題は起きない」と断言するモビリティ企業幹部もいる。高度に進化した自動運転車両では、センサーが肉眼以上に余裕を持ってブレーキの間に合う距離で対象物を把握するし、ブレーキの異常を感知した時点で補助ブレーキが作動してトロッコ問題が起きる前に停車する。つまり、「トロッコ問題は手動運転時代の遺産に過ぎない」というのだ。

 最終的にはそうなるのかもしれないが、自動運転車両はまさに進化の過程にある。さまざまなリスクに対して議論をしておくことは大切だ。

 以下ではトロッコ問題を含め自動運転を巡るさまざまな課題を、18年に設立された明治大学自動運転社会総合研究所の識者2人へのインタビューで掘り下げてみた。