人間とAIの「理解」は
似ているようで全然違う
この人間の脳の特徴は、言語の観点からも同じことが成り立ちます。例えば、日本語は子音のあとには、ほぼ必ず母音がきます。例えば、「た」は［t］と［a］のかたまりで、「ぬ」は［n］と［u］のかたまりです。日本語においては、母音があとに続かない子音は「ん」だけです。
そんな日本語母語話者は、子音が連続する［ebzo］という音が聞こえてくると、それを［ebuzo］と、二つの子音の間に母音［u］を勝手に補完して認識してしまいます。日本語母語話者の脳は、［ebzo］と［ebuzo］を区別できない、という実験結果すらあります。このように、人間の脳は「現実を自らが理解できる形でシミュレートしているもの」なのです。
人間の脳と同じように、生成AIもその内部で、何かしらの形で現実世界を再現しているようです。ただし、「人間と生成AIが同じ方法を用いて世界を認識している確率はとても低い」というのが田口先生の見解です。
同書の主張のまとめとなる部分を引用すると、「生成AIは現実と見まごう会話や映像を作りだすが、それは決して内部に同じ現実を実現しているということではなく、計算機で扱えるような、しかし、現実をかなり正確に再現できるシミュレーターを作成しているに過ぎないのである」と述べられています。
本書に関連して肝となるのは、生成AIは「人間のように文を理解し、発せられるようになった」わけではなく、なにか別のメカニズムによって、「文を理解し、発せられるように見えているだけ」ということでしょう。
生成AIは、人間のような知性を獲得しているわけではありません。私たちが打ち込んだ文の意味を「理解」しているわけでもありません。ただ、「こういう文章に対しては、こう返すべし」という「確率情報に基づいた応答」が極めて上手だということです。
