企業が決算書を発表するには、そこに不備や虚偽がないかを「監査」する過程を経る必要がある。会計情報はブラックボックスなので、それがルールを遵守して作成されていることを担保するためだ。筆者は、アルゴリズムも決算と同様にブラックボックスになっているので、監査というプロセスを経るべきだと主張する。


　アルゴリズムによる意思決定と人工知能（ＡＩ）は大きな可能性を秘めており、多大な経済効果を生んでいくことだろう。その一方で、懸念もある。過熱するブームによって、多くの人々が、ビジネスや社会にアルゴリズムを導入することで生じる、重大な問題を見過ごすようになっている点だ。

　実際、マイクロソフトのケイト・クロフォードが指摘した「データ原理主義」に陥っている人も多い。つまり、大規模なデータセットは、信頼性の高い客観的な真実の宝庫であり、人間はただ機械学習ツールを使ってそれらを抽出できればよい、という考え方である。

　しかし、もう少し繊細な見方が必要である。デジタル技術やソーシャル技術に埋め込まれたＡＩアルゴリズムは、そのまま放置しておけばどうなるか、いまではかなり明らかになっている。（人間のデータから学ぶことで）社会的偏見を露呈し、噂や偽情報の拡散を加速し、世論のエコーチェンバー化（同じ考えを持つ人たちが集う閉鎖的な環境で、偏った考え方が増幅されること）を促進し、人々の集中力を奪い、健全な精神を蝕む可能性さえあるのだ。

　アルゴリズムやＡＩ技術に社会の望ましい価値観を反映させるには、ＡＩ技術自体の開発に引けを取らないほどの創造性、努力、イノベーションが必要となるだろう。その第一歩として我々が提案したいのは、監査である。

　企業は以前から、金融市場やその他のステークホルダーのために、監査済みの財務諸表を発行することが義務づけられている。これは、社外の人間には社内の経営が「ブラックボックス」に見えるからであり、その意味ではアルゴリズムとよく似ている。

　経営側は一般投資家よりも情報面で有利であり、マネジャーが非倫理的な場合は投資家が損害を被る可能性がある。マネジャーに自社の経営状況を定期的に報告するよう義務づければ、そうした優位性に対してチェック機能を働かせることができる。その報告書の信頼性を高めるために、独立監査人を雇い、「ブラックボックス」からの報告書に重大な虚偽記載がないことを示す、合理的な保証を提供させるわけだ。

　これと同様の精査を、社会に多大な影響を及ぼすブラックボックスである、アルゴリズムに課さない手はないだろう。

　実際に一部の規制当局は、先を見据えてこのような可能性を模索し始めている。たとえば、ＥＵの一般データ保護規則（GDPR）では、企業はアルゴリズムによる意思決定を説明できなければならないと定めている。

　ニューヨーク市は最近、アルゴリズムによる意思決定システムに偏見が含まれる可能性を研究するためのタスクフォースを立ち上げた。ここから自然に予想できるのは、新たな規制によって、アルゴリズムの説明責任に関するサービスへの需要が高まることだ。