構想・執筆に2年。『エフエムふくやま』でも、「ページをめくる手が止まらなかった」と紹介され、映像化したいというオファーが舞い込んできた話題のAI・仮想通貨のエンターテイメント小説『マルチナ、永遠のAI。』
作者は、IT書籍の総売上が150万部を超え、小説でも『エブリ リトル シング』が17万部のベストセラーとなった大村あつし氏。今回は、AIの人権問題についてお届けしよう。
(構成・寺田庸二)

機械学習システムのアルゴリズムに
平等、差別禁止、偏見をなくす、という
基本原則を組み入れる

 ちょっと驚きの話ですが、機械学習をしたAIは差別もすれば偏見も持ちます。
 と、こんなことを言うと、AIに心があるかのように聞こえますが、決してそうではありません。

 結論から述べると、機械学習の元となるビッグデータには、「人間の思考や性質」が内在しており、その結果、AIは差別や偏見まで学んでしまうのです。
 すなわち、AIのこうした不適切な判断は、元をたどれば私たち人間に責任があるとも言えます。

 アメリカのプリンストン大学では、GloVeというアルゴリズムを使って、AIに8400億の単語を学ばせました。
 すると、そのAIは人間が表層的・潜在的に持つ偏見を再現することが立証されました。すなわち、AIは自分自身に偏見まで組み込んでしまったのです。
 その中でも特に多い偏見は、人種と性別に関連するものです。
 たとえば、「ヨーロッパ系アメリカ人は、アフリカ系アメリカ人よりも心地よい」とか、「女性の名前から連想されるのは家族だが、男性の名前からは仕事が連想される」という具合です。

 ただし、元データは人間の思考だからと言って、それを学んだAIが差別をしてもいいことにはもちろんなりません。
 そして、こうした問題の議論の土台にすべく、AIから人権を守ろうという「トロント宣言」が、人権団体が毎年行なっているRightsCon(ライツコン)の中で発表されました。