米フェイスブックの幹部は長らく、人工知能(AI)を活用すれば、同社の慢性的な問題に対処できるとの見方を示してきた。ヘイトスピーチ(憎悪表現)や過剰な暴力と同社がみなすものや、未成年者を同社のプラットフォームに近づかせないようにするためにだ。だがその未来は、同社幹部が示唆するよりさらに遠い先のものだと、ウォール・ストリート・ジャーナル(WSJ)が確認した内部文書は示している。フェイスブックのAIは、一人称視点のシューティング動画や人種差別主義者の暴言を特定することや、闘鶏の試合と自動車衝突事故を区別するといったことを一貫して行うレベルにはまだない。ヘイトスピーチに関しては、同社がルール違反の投稿のうちごく一部しか削除していない――パーセントにして1桁台前半――とフェイスブックの従業員は推計していることが内部文書から分かる。フェイスブックのアルゴリズムが、削除すべき違反コンテンツであると十分確信できない場合、その内容をユーザーに表示する頻度は下げられるものの、投稿したアカウント自体は野放しとなる。