イーロン・マスク氏 Photo:Pool/gettyimages
イーロン・マスクは、AIの進化によって本当に警戒すべきは、人間の知性を超えて世界を支配するSF的な未来ではないと語っている。むしろ問題は別のところにあるという。AI時代に広がる「最高」や「最大化」といった価値観は何をもたらすのか。応用数学者であるココ・クルムが、その危うさを理論と実例から解き明かす。※本稿は、ココ・クルム著、松本剛史訳『最適化幻想 効率が人を幸せにしない理由』（新潮社）の一部を抜粋・編集したものです。
人間の欠点や悪意まで
AIは最適化してしまう
電気自動車で名をはせたイーロン・マスクは、ヴェルナー・ヘルツォーク監督のドキュメンタリー映画『LO：インターネットの始まり』でこう言っている。
「AIの最大のリスクは、AIが自分の意志をもつようになることじゃない」――そこでマスクは少し言葉を切る。ドラマティックに間を置いたというよりは、気まずさを感じさせる沈黙だ。そしてこう続ける。
「AIが作り手による最適化の機能に従うということだ」
マスクが言っているのは、アルゴリズムが思ったほど大きな力をもっていないということだ。
ハリウッド映画のように、AIが人間の居場所を乗っ取って追い出すことはおそらく起こりえない。マスクによれば、より可能性が高いのは、人間の欠点や悪意が機械にプログラムされることだ。機械には固有の純粋さがある。プログラマーの欠点のせいで行き詰まらなければ、たしかに世界を救える可能性はある。対照的に、不完全で最適化されていないのは私たち人間なのだ。
人間のバイアスを取り除いて物事を完璧にプログラムする、というこの願望はテクノ・ユートピア的な感性に行き渡っている。たとえばイギリスのアダム・スミス研究所に属するエコノミストたちは、月を民営化してその売り上げを地球上の貧困緩和に充てるべきだという（真剣ではあっても）不条理きわまる考えを発表した。
