算数や数学を勉強する際、早ければ小学生時代には正解を出すだけでは十分ではないと教わる。結果に至るまでの過程を説明するよう求められるのだ。世界中の企業は今、同じようなことを求められている。住宅ローンや雇用、医療問題など、判断が難しいさまざまな分野に人工知能（AI）を適用しようとているからだ。そうした分野で下される判断は誰もが理解できるもので、かつ透明性があるものでなければならない。