NHKのAI特番が炎上！
「AI崇拝」の危険

2017年7月22日に放送されたNHK総合の「AIに聞いてみた どうすんのよ!?ニッポン」が炎上中だ。医療政策学者で『「原因と結果」の経済学』の著者の１人である津川友介氏は「AIは万能である」というNHKの演出に危機感を抱いているという。どういうことか、詳細を聞いた。

AIに因果関係はわからない！

（画像はイメージです）

　ここ2～3年でにわかに話題になっている人工知能（AI）。最近では、NHKスペシャルの「AIに聞いてみた どうすんのよ!?ニッポン」（2017年7月22日放送）にて、NHKが開発したAIの分析結果から「健康になりたければ病院を減らせ」「少子化を食い止めるためには結婚よりもクルマを買え」などの斬新な提言がなされ、議論を呼んでいる。

　確かに、意外性があるため、おもしろいと感じた人もいるかもしれない。しかし、番組中でAIが提言した内容は、残念ながら間違っていると言わざるをえない。

　なぜなら、AIは物事を予測したり、将棋や囲碁のように決められたルールのなかのゲームをすることは得意であるものの、2つの事柄のあいだに「因果関係」があるかどうかを明らかにすることは苦手だからだ（因果関係にあるかどうか統計学を用いて検証する方法を「因果推論」を呼ぶ）。将棋や囲碁の名人を打ち負かしたことが話題になっているため、AIに対する期待が高まっているが、決して万能なわけではない。

　医療に関して言えば、レントゲン写真から病理組織の診断をしたり、患者の日々の行動から、本当に病気を持っているかを予測する分野ではAIは力を発揮する。その一方で、因果関係の分析についてはほとんど無力である。番組内で「病床数を減らしたらバナナ購入額が増える」、「病床数を減らしたら人々のボランティア活動時間が増える」といったおおよそ因果関係があるとは思えないような結果も導き出している。AIが将棋や囲碁で人間を上回るようになったからといって、ほかの分野においてもAIが優れているということにはならない。

　因果推論を分かりやすく説明した『「原因と結果」の経済学』では、2つの事柄に因果関係があるかどうかを評価するときにチェックすべき3つの条件を紹介している。

（1）まったくの偶然ではないか？
（2）原因と結果の両方に影響を与える「第3の変数」は存在していないか？
（3）逆の因果関係は存在していないか？

　AIが因果関係を評価することが苦手である最大の理由は、AIには2つ目の「原因と結果の両方に影響を与える第３の変数」を統計学的に見つけ出すことができないからである。

　AIを用いた因果推論は、世界で研究が始まったばかりであり、しっかりとした方法論が確立していない。そもそも因果推論ができるかどうかもまだわかっていない。あと5～10年したらできるようになるかもしれないが、現時点ではできないと考えられている（もちろんAIで因果推論できると主張している人はいるが、学術界で広く認められてはいない）。

　NHKの番組の冒頭では、AIの提言について、「因果関係はわからないものの、たとえば病院数というデータの値が増えたり減ったりするとき、それと連動して値が変化するあらゆるデータを瞬時に見つけ出すことができる」という留保条件を流していた。AIは連動したデータを見つけるだけで、それらに因果関係にあるのかないのかは、結局は人間が解釈しなくてはいけない、ということだ。

　しかし番組では、AIが指摘した「連動したデータ」を、そのまま因果関係があるように扱っていた演出がされていた。残念だが、「連動して値が変化するあらゆるデータ」を眺めるだけで因果関係を導けるほど、因果推論は単純ではない。番組でも取り上げた夕張市の例を考えてみよう。

「病床数が減ったから夕張市民が健康になった」
ように見える理由

　夕張市は2007年に財政破綻し、171床を有していた総合病院は、19床の小さな診療所に再編された。番組では、病床数が減ることによって、住民は病気で亡くなる人が多くなるのではなく、逆に健康になったと紹介されていた。

　病院が減ったことで「危機意識が高まり」、自発的に体操をしている市民を紹介したうえで、「そのおかげか、10年前に比べ、がんや心臓病で亡くなる人の割合が大きく減っているというんだ」というナレーションとともに、以下のような字幕を流していた。

肺炎死亡率（男）32％↓
がん死亡率（男）5％↓
心疾患死亡率（男）35％↓
心疾患死亡率（女）15％↓

　これを見たら、誰もが「病院が減ったから市民が健康になった」という因果関係を表しているのだと誤解してしまうことだろう。

　夕張市の病院閉鎖が健康に与えた影響に関して、質の高い研究はいまだ行われていない。しかし、病院がなくなったことで専門的な治療を受ける必要がある患者（たとえば透析を受けなければならない患者や、抗がん剤治療を受けているがん患者など）は、札幌市など周辺の都市に引っ越したと考える方が自然である。

　透析とは、腎臓が機能しなくなった人が受ける治療である。週3回、1回4時間の治療を受ける必要があり、もしそれが受けられなくなると即座に命に関わる、文字通り「命綱」である。週3回も通うため、遠くの医療機関に通うのはなかなか大変である。それだけではなく、北海道では何年かに一度、大雪が降って陸路が完全に遮断されるため、透析のために遠くの医療機関に通院することには命の危険が伴う。

　そのため、夕張市に住んでいた透析患者の多くは周辺の透析のできる施設に引っ越したと考えられる。筆者（津川）は実際に夕張市の周辺の市の透析施設で勤務したことがあるが、透析が受けられなくなって通院が大変になったために引っ越したという患者さんを担当したことがある。

　さらに言うと、夕張市民は病院閉鎖だけでなく、ありとあらゆる公共サービスの低下の影響を受けている（夕張市の状況に関してはこちらの記事が詳しい）。

　このような日頃の生活に大打撃を受けたときに、夕張市に留まらず、よりよいサービスを求めてほかの地域に引っ越す人が出てくる。それを理解せずに、夕張市民の健康だけを評価すると、あたかも病院が減ったことで住民が健康になっているように「見える」のである。

　これを専門用語で「疑似相関」と呼ぶ。一見すると因果関係があるように見えるが、実際には因果関係がないもののことである（因果関係と疑似相関をどのように見分けるかに関しては、連載第1回の記事に詳しい）。

「AI＝お告げをする神」
という演出は今すぐ止めるべき

　では、実際に「病院の閉鎖」と「地域住民の健康」の関係が因果関係なのかをしっかり調査した研究はあるのだろうか。実はアメリカではそのような研究がすでに行われており、「病院の閉鎖」と「地域住民の入院率」や「死亡率」のあいだに因果関係はないという結果が得られている。病院が閉鎖しても、人々の健康状態はよくも悪くもならない可能性が高い、ということだ。

　もし、この結果を日本にも当てはめることができると仮定すると、正しい結論は「健康になりたければ病院を減らせ」ではなく、病院が減っても健康への悪影響は思ったより少ない」ということになるだろう。もちろん、病院閉鎖が、健康以外の何か（例えば生活の質など）に与える悪影響がないとは言い切れないが、いずれにせよ、病院閉鎖で健康が改善するなどというトンデモな結論を導き出している研究は存在しない。

　確かにAIには大きな可能性がある。しかし、AIは万能であり、因果関係すら明らかにできると思うべきではない。

　そうでないと、「AIが言っているので病院を閉鎖すべきだ」などと主張する人たちが出てくるというトンデモな話になりかねない。それで苦しい思いをするのは住民であり、患者である。AIは、人間のくらしを便利にするためにある「道具」なのであって、人間に何をするべきかお告げをしてくれる「神様」ではないのである。

『「原因と結果」の経済学』
著者からのメッセージ

　『「原因と結果」の経済学』 発売以降、非常に多くの方からご好評賜り、誠にありがとうございます。

　「ビッグデータ」が流行語となる現代、データを用いた分析は氾濫していますが、データはそれのみでは単なる数字の羅列にすぎません。データを用いた分析を「どう解釈するか」ということが極めて大切です。

　「因果推論」が私たちのような研究者の専売特許であった時代はすでに過ぎ去ったのではないでしょうか。

　永田町・霞が関では、「室内完全禁煙」「メタボ健診の義務化」「待機児童問題」などが議論されていますが、残念なことに、現在の政策的な議論が因果関係を示唆するエビデンスに基づいて行われたものとはとうてい言えません。

　それどころか、選挙が近づくと、短期的に得票に結びつくような政策ばかりが議論され、これまで公約とされてきたことが覆ったり、突如として何の根拠もない政策が強引に推し進められたりして、結果として納税者である国民の利益が著しく損なわれているのをたびたび目にします。

　まさに、「次の世代」よりも、「次の選挙」が重んじられた結果です。

このような有様を見るたびに、「選挙や政局といった一時的なポリティカルショーに左右されるのではなく、長期的な視点に立って、国民の社会的厚生（＝幸福）を最大化することができないものか」と思います。

　そのためには、「政治的流行に左右されやすい政策を、エビデンスに基づくものにする」ことが重要なのではないでしょうか。

　経済学がこだわる「因果関係」を示唆するエビデンス。それを生み出すために体系化された「因果推論」。それらが、データ氾濫時代を生きる読者の皆さんの助けになるならば、これに勝る喜びはありません。

＜連載人気ランキングベスト3＞
【第3位】 飲食店を全面禁煙にすると人々の健康や店の売上はどうなるのか
【第2位】大西英男議員の事務所から受けた、受動喫煙記事への抗議に対する回答
【第1位】NHKのAI特番が炎上！「AI崇拝」の危険

---

【ダイヤモンド社からのお知らせ 】

中室牧子、津川友介：著 価格：￥1600 +税 発行年月：2017年2月 判型/造本：46並製、208ページ ISBN：978-4-478-03947-2

『「原因と結果」の経済学――データから真実を見抜く思考法』 
週刊ダイヤモンド　2017年「ベスト経済書」第１位！

ビッグデータ時代の必須教養「因果推論」の考えかたがわかる！

・「メタボ健診」と「長生き」のあいだに因果関係はあるか
・「医師の性別」と「患者の死亡率」のあいだに因果関係はあるか
・「認可保育所の数」と「母親の就業」のあいだに因果関係はあるか
・「友人の学力」と「自分の学力」のあいだに因果関係はあるか
・「大学の偏差値」と「収入」のあいだに因果関係はあるか

このように、「２つのことがらのあいだに因果関係はあるか」を正しく見抜く方法論「因果推論」を、前提知識なし、数式ゼロで徹底的にわかりやすく解説。身の回りにあふれる「もっともらしい通説」にだまされなくなる！ 

2017/7/5　NHK Eテレ『オイコノミア』著者出演で大反響！
各方面から絶賛の声多数！
「私たちがいかに思い込みに左右されているかを教えてくれます」（池上彰氏）
「騙されないで正しくデータを利用するための必読書」（大竹文雄氏　大阪大学社会経済研究所　付属行動経済学研究センター　教授）
「現代の新教養の画期的な入門書」（安田洋祐氏　大阪大学大学院経済学研究科 准教授）

紙の書籍はこちらから！→［amazon］［紀伊国屋書店］［楽天ブックス］
電子書籍はこちらから！→［kindle］［kinoppy］［kobo］

【目次】
◆第1章　根拠のない通説にだまされないために　「因果推論」の根底にある考えかた
◆第2章　メタボ健診を受けていれば長生きできるのか　因果推論の理想形「ランダム化比較試験」
◆第3章　男性医師は女性医師より優れているのか　たまたま起きた実験のような状況を利用する「自然実験」
◆第4章　認可保育所を増やせば母親は就業するのか　「トレンド」を取り除く「差の差分析」
◆第5章　テレビを見せると子どもの学力は下がるのか　第3の変数を利用する「操作変数法」
◆第6章　勉強ができる友人と付き合うと学力は上がるのか　「ジャンプ」に注目する「回帰不連続デザイン」
◆第7章　偏差値の高い大学に行けば収入は上がるのか　似た者同士の組み合わせを作る「マッチング法」
◆第8章　ありもののデータを分析しやすい「回帰分析」