それは、前後の文脈を理解していないため、「どちらとも解釈できる会話」に対応できないことです。
「どちらとも解釈できる会話」のようなことを、専門的には「言い間違いが狭まる」というのですが、こんなケースを想定してみましょう。
ある人が、「私の年齢は20歳です」と自己紹介したあとに、こう言いました。
「私の母は死んでいません」
この場合、「死んでいません=死んで、この世にはいない」と丸暗記をさせられたAIは、これまた丸暗記で覚えた「それはお気の毒に」としか答えようがありません。
しかし、意味ベクトル方式のAIであれば、発言者が20歳とわかっていますので、その人の母は統計的に生きている可能性が高いと判断できます。
すなわち、「死んでいません=死んでいない。生きている」と判断して会話を進めることができます。
一方で、まったく同じ発言でも、それが60歳の人の言葉なら、その人の母は年齢的に亡くなっている可能性が高いので、一転して、
「死んでいません=死んで、この世にはいない」
と判断することが可能です。
すなわち、ヒトと会話ができるレベルのAIを開発しようと思ったら、事前に行った会話の記録(ログ)を保持して、かつ、一連の会話をひとまとめの文脈(コンテクスト)として捉える能力をシステムに組み込まなければなりません。
もっと詳細に言えば、「会話の意味を読み取る」ためには、音声をテキストに変換し、そのテキストを文節に分解して、キーとなる言葉を手がかりに、全体としての意味の方向性、意味ベクトルを作り上げられるシステムでなければならないのです。