別の言い方をすると、話し手は「自分はおおよそ文字どおりの意図でしゃべっている」と思っており、聞き手も「相手の意図を文字どおりに理解している」と思っているのに、実はそこに意図理解のための暗黙の処理が働いているケースだ。
そのようなケースは、「言葉を適切に理解して行動できるAI」を実現する上での大きな課題となる。『自動人形の城』ではそのことを描くために、中世風の物語世界を設定している。
物語の主人公は11歳の王子で、勉強嫌いとわがままな性格が災いして、邪悪な魔法使いの呪いに手を貸してしまう。その魔法使いは王子の優秀な召使いたちを全員自分の城に連れ去り、かわりに彼らにそっくりな「自動人形たち」を置いていく。
自動人形たちは優秀で、複雑な事物を認識し、言葉の意味を理解し、言われたとおりに行動することができる。いわば、現実世界ではまだ実現していないレベルのAIである。しかしそれらの人形たちには王子の命令の意図がなかなか伝わらず、王子は悪戦苦闘することになる。
私たちは無意識に
「曖昧な言葉」を使っている
王子に困難をもたらす主な要因は、言葉の曖昧性や不明瞭さである。「曖昧な言葉」というと、多くの方は真っ先に「橋」（はし）と「端」（はし）のような同音異義語を思い浮かべられるかもしれないが、それ以外にも曖昧なケースはごまんとある。
たとえば、何かを回せという指示を実行する場合、「回す」という言葉の意味さえ知っていれば誰にでもできそうに思えるかもしれないが、話はそう単純ではない。もし私たちがバトントワリング用のバトンを渡されて「これを回せ」と言われたら、棒の中央あたりを持ち、バトンの両端が円を描くように回すだろう。
他方、横に渡した焼き串に肉を刺し、火であぶって丸焼きにする場合、「串を回せ」と言われたら串そのものを回転軸と見なして回すはずだ。さらに、「扇風機を回せ」と言われたら電源とスイッチを入れるはずで、手で本体をぐるぐる回したりはしない。
