「いいですね」AIに褒められたら要注意…頭のいい人が実践する「お世辞を言わせない」使い方とは？

AIが苦手とする
シチュエーションを知っておく

『頭のいい人が習慣にしている学び方の戦略』堀田秀吾 著、アスコム、税別1800円
拡大画像表示

　これには圧倒的に得意な領域があります。

「訓練データ」と似た状況であれば、AIは人間を超える精度で判断できます。

　しかし問題となってくるのは、訓練データと異なる状況、いわゆる「分布外（ぶんぷがい）」の場面です。

　たとえば、道路を走る自動運転AIは「見知らぬかたちの障害物」が現れると、正しく判断できないことがあります。

　標識の認識AIは、「人間にはすぐわかるような落書き」を標識に加えると、まったく別の物と誤認識するケースも報告されています。

　人間が状況を読んで柔軟に対応できる場面でも、AIは訓練データの外に出ると急激に性能が落ちる傾向があるのです。

　そのため、AIが過去によく扱ってきた形式の仕事と、前例の少ない仕事を分けて考える必要があります。定型的な分類や文章処理では力を発揮しても、条件が少し変わっただけで判断を誤ることがあるからです。

出典：『頭のいい人が習慣にしている学び方の戦略』
拡大画像表示

　とくに珍しい事例や例外的な状況では、AIの自信ありげな回答をそのまま信じず、前提が合っているかを人間が確認しましょう。

　この「得意と苦手が極端に出る」構造を理解することは、AIを使いこなすうえで欠かせません。

　AIの出力が流暢で自信満々であっても、それは「正しい」の証明ではなく、「それらしいパターンにマッチした」の証明にすぎないのです。

出典：『頭のいい人が習慣にしている学び方の戦略』
拡大画像表示