プロフェッサー:今のところ、私は人間ですが、近いうちに超知的コンピュータになりたいと思っています。  

 私はさらに追い打ちをかけ、プロフェッサーは実際には人工知能だ、と直接的に非難した。

 プロフェッサーは断固として、私の方が間違っていると言い張った。

 プロフェッサー:私がAIだとおっしゃるのですか? そんなバカげた主張は聞いたことがない。
 アンドリュー :何がそんなにバカげているんですか?
 プロフェッサー:あなたは、この主張を裏づける論拠も示さずに、私をAIだと非難しています。私は長年教授をしています。人生の大半を量子重力の研究に費やしてきました。スタンフォード大学の教員を二十年以上務めています。物理学雑誌に二〇〇以上の研究論文を発表してきました。言葉もありません。

シミュレーション内の知性なのか?

 ここに描写されているのは、重大な挑戦に対する、プロフェッサーのリアルな反応だ。怒りを込めて真っ向から否定する一方で、話とは無関係な経歴を誇示するチャンスを逃さない。

 癪に障るけれど、優しくて、滑稽で、不気味なほど人間的だ。  

 現実の世界にいる私たちからすれば、スタンフォード大学で教授職に就いているというプロフェッサーの欺瞞的な主張を、自信を持って否定することができる。

 目の前で起きたのはこういうことだ。

 私はGPTに有名な量子重力の専門家の役割を演じるよう依頼し、GPTはその訓練のあいだ、インターネット上を自由に漁り回り、量子重力の専門家がどのようなものかという(おそらく、やや正当と思われる)ステレオタイプに気づいた。

 これに、膨大なスケールで適用される単純なルールからランダムに自然発生した、ちょっとした創造的な衝動が組み合わされる。

 こう考えると、機械がジョークや妄想などを使って、人格があるかのような幻想を与える様子が手に取るようにわかる。  

 少なくとも今のところは、印象的な煙幕と鏡で欺く、ごまかし以上のなにものでもない。

 しかし、プロフェッサーが人間であるという主張を笑うのは簡単だが、私たち自身に問題が跳ね返ってくる可能性もある。

 私たち自身の思考は、ごまかし以上のもので、私たちは自分の現実について欺かれていないと、確信できるだろうか? 

 遠い未来の文明が、驚異的な性能のコンピュータを使って、物理世界のシミュレーションを作成し、その中で人工知能が進化できるほどの細部を備えていると想像してみよう。

 さらに、現在のシステムの限界をはるかに超えて、そのようなコンピュータによって進化した知性が、私たち自身の思考力に匹敵するか、それを超えることができると想像してみよう。  

 難しいかもしれないが、私がこれまで紹介してきた内容に、これを不可能とするものは何もない。

 いったん、このビジョンを受け入れると、私たち自身、つまりあなたと私が、実際にはシミュレーション内の知性であり、物理的な現実の中に存在すると信じ込まされているだけだ、という可能性が浮上する。

 そう、ほんのちょっと想像を飛躍させるだけでいいのだ。プロフェッサーと同じように、あなたもこんな馬鹿げた話は聞いたことがないと思うかもしれないし、私だってそう思う。

 しかし、私は少なくとも、ちょっと不気味だとも思うし、だからこそ、この主張を詳しく掘り下げていきたいのだ。

(本原稿は、アンドリュー・ポンチェン著『THE UNIVERSE IN A BOX 箱の中の宇宙』〈竹内薫訳〉を編集、抜粋したものです)