人工知能（AI）が必ずしも十分に知性を発揮しているとは限らない。ある大手企業が就職希望者を審査するために開発したプログラムは、ほとんどの女性応募者の履歴書を自動的に排除していた。別の企業では、開発した顔認証のアルゴリズムが多くの黒人女性を男性と誤って認識した。AIの活用が広がる中、多様な人材を確保することの重要性が改めて注目されている。テクノロジー企業は女性やマイノリティーの採用を強化しているが、米労働統計局のデータによると、AIのプログラムを作成するコンピューターやソフトウエアの専門家はまだ白人と男性がほとんどだ。AIプログラムのテストに使われるデータには、女性やマイノリティーの情報が十分に含まれていないことが多い。研究によると、広く利用されているあるデータでは、男性の情報が全体の74％以上、白人の割合は83％以上だった。こうした背景により、エンジニアが自分たちのような人間の情報が多く含まれるデータを使ってアルゴリズムを検証しても、問題は見つからないのだ。