彼らは存在論的リスク(人類を滅ぼし得るリスク)について語り、またユートピアの可能性についても語っています。

AI開発がサンフランシスコに
集中していることの問題点

 私は、それ(AI開発)がすべて一つの小さな地理的エリア(サンフランシスコ)に、非常に特定された、少し奇妙な文化とともに集中していることは健全ではないと思います。

 地理的な多様性、思考の多様性がもっとあり、日本のような世界の異なる地域の人々がこれを積極的に構築し、サンフランシスコの数ブロックに任せきりにしない方がはるかに良いでしょう。

 なぜなら、現在、その地域のイデオロギー的な狭さのために、彼らは二つの罠のいずれかに陥る可能性が非常に高いからです。

「技術的に魅力的」(※Technically sweet/原爆開発者のオッペンハイマーが、科学的にあまりに魅力的で解決すべき興味深い課題であるために、その倫理的帰結を忘れて没頭してしまう状態を表現した言葉)だからといって盲目的にハルマゲドン(※制御不能になったテクノロジーが人類を滅亡させるという暴力的終末の意)のマシーンを作るか、あるいは「危険すぎる」と判断して他者がそれを行うのを止めるためにグローバルな全体主義的規制体制を要求するかのどちらかです。

 私は彼らが(人類滅亡でも、全体主義的な管理社会でもない)「第三の道」を見つけるとは思えません。第三の道を見つけるためには、より幅広い連合が必要だと私は思います。私たちは「第三の道」を見出さなければならないのです。

AIによる人類滅亡でも
管理社会でもない、第三の道とは?

 第三の道を見出すことは可能なのか。

 預言者ダニエル(※旧約聖書の一書であるダニエル書12章4節)の全文を読み上げましょう。

「しかしダニエルよ、あなたは終わりの時までこの言葉を秘し、この書を封じておきなさい。多くの者はあちこちと走り回り、知識が増すであろう」

 ダニエルが「知識が増す」と言ったとき、それは神の知識、全体の知識を意味していましたが、より単純には、終末そのものについての知識をも意味していました。世界の終焉が近づくにつれ、私たちは物事をより良く理解するようになります。

 これは私たちに問いを突きつけます。「なぜこの書は終わりの時に向けて封印を解かれるのか?」 もし私たちが今日、ダニエル自身が理解していたよりも深く彼の言葉を理解できるのであれば、私たちにできることは何かないのでしょうか? それとも、これらの預言は石に刻まれた(変更不可能な)ものなのでしょうか?

 私たちにできる最善のことは、ただ観照するしかないのでしょうか?