AIアルゴリズム、ヘイトスピーチ検出で四苦八苦
Photo:Kevin Dietsch/gettyimages

 ある研究により、ソーシャルメディアユーザーの多くが身をもって知る弱点が浮き彫りになった。その弱点とは、悪意あるスピーチをフィルターが常に捉えるとは限らないということだ。

 インターネット上のヘイトスピーチ検出フィルターの有効性に関する、これまでで最も包括的な部類に入るその研究で鮮明になったのは、ソーシャルメディアなどのサイトから中傷的な表現を一掃するために人工知能(AI)アルゴリズムを訓練する難しさだ。報道機関や、ヘイトスピーチに反対する団体、あるいはこれらの言葉を流用した人種グループなどによる類似の言葉を含む正当な投稿をブロックすることなしに、中傷表現を根絶やしにするのは難しいことが明らかになった。