AI最大のリスクは「AIが意志を持つこと」ではない…イーロン・マスクが警戒する“人間の悪意”とは？

イーロン・マスクは、AIの進化によって本当に警戒すべきは、人間の知性を超えて世界を支配するSF的な未来ではないと語っている。むしろ問題は別のところにあるという。AI時代に広がる「最高」や「最大化」といった価値観は何をもたらすのか。応用数学者であるココ・クルムが、その危うさを理論と実例から解き明かす。※本稿は、ココ・クルム著、松本剛史訳『最適化幻想 効率が人を幸せにしない理由』（新潮社）の一部を抜粋・編集したものです。