この疑問に対する答えについては、田口善弘先生による『知能とはなにか～ヒトとAIのあいだ』（2025年、講談社現代新書）の中で重要な洞察が展開されているので、興味がある方は、ぜひご一読をお勧めします。この本の趣旨を簡単に抽出しますと、

（1）人間の脳は、現実を脳内で再現することで理解している（＝脳は現実世界のシミュレーターである）。
（2）そして、生成AIも現実を再現（シミュレート）するものである。
（3）ただし、人間の脳と生成AIでは、再現するために使っているシミュレーターのメカニズムが別ものである。

　となります。（1）に関して補足すると、「人間の脳は、現実世界をそのままの姿で認識しているわけではない」という事実が重要です。田口先生はこの点を説明するために、「古典力学」と「量子力学」の対比を用いています。人間が世界を認識する際、その仕組みは、古典力学的な枠組みに基づいています。具体的に言うと、人間は「物が存在するか、しないか」という二分法で世界を捉えます。

「そんなの当たり前だろう」という声が聞こえてきそうですが、現代の量子力学の洞察によれば、物の存在は「確率的」にしか記述できないそうです。観測されるまでは、ある粒子が「ある場所に存在する／しない」という形ではなく、複数の可能性が重なり合った状態（重ね合わせ）にあるのです。

　ところが、人間の脳はこのような量子力学的な世界をそのまま捉えることはできません。私たちの認識は、「確定的」な枠組みに縛られており、「確率的」な現実のあり方を直接的に把握することはできません。

　つまり人間の脳には人間の脳なりの世界の理解の仕方があるのです。しかし、その「理解」は「現実そのもの」ではない、というのが重要な点です。量子力学的な世界をそのまま認識できる宇宙人がいたとして、その宇宙人が人間を観察したら、当惑するかもしれません。