算数や数学を勉強する際、早ければ小学生時代には正解を出すだけでは十分ではないと教わる。結果に至るまでの過程を説明するよう求められるのだ。世界中の企業は今、同じようなことを求められている。住宅ローンや雇用、医療問題など、判断が難しいさまざまな分野に人工知能（AI）を適用しようとているからだ。そうした分野で下される判断は誰もが理解できるもので、かつ透明性があるものでなければならない。AIの普及が進み、それを支えるテクノロジーが複雑になるのに伴い、企業幹部の間ではこうした課題（説明可能性や解釈可能性と呼ばれることが多い）への懸念が高まっている。IBMのシンクタンク「Institute for Business Value」の最近の調査によると、企業幹部5000人のうち約60％が、AIの意思決定の仕方について説明することに不安を感じていると答えた。