有害データばかりを学習したAIは「サイコパス」になる

「ハイプ・ループ」の図。機械の知能と人間の行動の相互作用。機械の知能は、人間の行動を感知し、その分析に基づいて情報を推薦する。つまり、機械の知能は人間の選択の幅を狭める。人間は機械の推薦に対応して、選択し、またその選択が機械の知能に影響を与える。

［図3-9］MITのAI「ノーマン」の実験結果。「正常」なノーマンと、「猟奇的」なノーマンに同じロールシャッハ・テストを受けさせた。図は2つのノーマンが同じ絵につけたキャプションの例。「正常」なノーマンは、ソーシャル・メディアに投稿された無害で平和な動画で教育した。「猟奇的」なノーマンは、暴力や死に関わる動画ばかり見せて教育した。AIのコード自体はどちらも同じである。