腫瘍内科の看護師メリッサ・ビービさんは、生死を分ける判断をする上で、自分の観察力を頼りにしている。眠気があり瞳孔が開いている患者は出血性脳卒中、口臭のある高齢の患者は腹部で閉塞(へいそく)を起こしている可能性がある。そのため勤務先の米カリフォルニア大学(UC)デービス校メディカルセンターの病棟で、ある入院患者が敗血症であるという警告メッセージを見たとき、それは間違いだと確信した。「15年間がん患者に関わってきた。敗血症の患者は見れば分かる」と言う。「この患者は敗血症ではないと分かっていた」警告メッセージは、白血球数の上昇を敗血症性感染と関連付けていて、同様の血球数を示すことがある白血病の患者だったとしても考慮されない。人工知能(AI)に基づくアルゴリズムが過去の敗血症患者と一致するパターンを検出し、警告を発する仕組みだ。アルゴリズムによる判断理由の説明はなかった。