アルゴリズムの悪い要素で
作られていた予算システム
ただ、これで犯罪を記録するのは客観的な作業とはほど遠い。「目標達成のため」といった動機づけに応じて、警察は犯罪として記録すべきものを、そうでないように変えることも可能だからだ。
たとえば、「盗難」は「落とし物」とすればいい。「社会秩序違反」は、犯罪ではない「反社会的行動」扱いにすることもできる。一方、こうしたことはすべて、所属する警察に割り当てられる予算額とも関連している。
そのため、たとえ犯罪を減らすための目標が掲げられていたとしても、よほどの大ばか者でなければ、認知件数が極端に下がることによって所属する警察の予算が大幅に減らされてしまうほど、犯罪を減らしすぎるようなことはしない。警察官の給与は、犯罪を減らすという目標を達成するよりも、自身の活躍ぶりが示せるような、（認知された）犯罪がそれなりに生じるかどうかにかかっているからだ。
こうした犯罪データが警察予算算定アルゴリズムに入力され、アルゴリズムが各警察の予算額を算出すると、結果に大きな差が出るのは当然だ。たとえば、ある警察は前年と比べて20％減となる一方で、別の警察は10％増となった、というように。
『ヤバい統計 政府、政治家、世論はなぜ数字に騙されるのか』（集英社）ジョージナ・スタージ 著、尼丁千津子 訳
そこで政府が介入し、どの警察も前年から少なくとも2.5％増の予算が割り当てられるようにする。この調整は、「振動吸収」と呼ばれている。その結果、警察犯罪認知件数が増加した警察は、本来もらえるはずだった追加予算を調整でほぼすべて削られる。そして、その分は、活躍ぶりを示せる犯罪が減ったことで本来は予算が減らされるはずだった警察に回されてしまう。
警察予算算定アルゴリズムには、「問題のある結果を入力データとして利用している」「過度に複雑」「人間の恣意的な裁量までもが含まれる」といった、悪いアルゴリズムの要素のほぼすべてが合わさって盛り込まれている。2015年、政府自身も警察予算算定アルゴリズムは「複雑で透明性に欠け、しかも時代遅れであるため、目的にそぐわない」と認め、改革を提案した。
アルゴリズムには、重要なものが意図的に除外される危険性が常につきまとっている。統計モデルは世界の縮小版のようなものだ。アルゴリズムもそれと同じであり、作り手が検討するよう求めたものだけに基づいて判断を行う、閉ざされた人工的な「世界」なのだ。
