Photo:The Washington Post/gettyimages
2023年11月中旬のある暖かい夜、富豪でベンチャーキャピタリストのピーター・ティール氏は、ロサンゼルスのアート地区にある100年前の銀行を改装した前衛的な日本料理店「YESS」で、夫の誕生日パーティーを開いていた。ティール氏の隣に座っていたのは、友人のサム・アルトマン氏だった。
ティール氏はその10年以上前にアルトマン氏の最初のベンチャーファンドに出資しており、アルトマン氏がオープンAIの最高経営責任者（CEO）として人工知能（AI）革命の「顔」となった後も彼の助言者であり続けた。オープンAIが22年11月に対話型AI「チャットGPT」を公開し、瞬く間に話題となったことで、テクノロジー株は数十年ぶりの好調な年を迎えていた。しかしティール氏は心配していた。
ティール氏はアルトマン氏と出会う数年前、AIに取りつかれたもう一人の天才、エリーザー・ユドコウスキー氏を支援し、彼の研究所に資金を提供していた。その研究所は、もし人間より賢いAIが誕生しても、そのAIが作り手に友好的であることを確保する研究を推進していた。23年3月、ユドコウスキー氏は米誌タイムで、現在のAI研究の波が止まらない限り、「文字通り地球上の全ての人が死ぬだろう」と主張した。
ティール氏はパーティーの席でアルトマン氏に警告した。「君の会社の半分の人間がそういった考えを信じ込むようエリーザーにプログラムされていることを君は理解していない。もっと真剣に受け止める必要がある」
アルトマン氏はベジタリアン料理をつつきながら、あきれた表情を見せないようにした。彼の会社が「効果的な利他主義（EA）」の信奉者たちに乗っ取られたとティール氏が警告した夕食会は、これが初めてではなかった。EAの信奉者たちは当時、重点を置く課題を、世界の貧困撲滅から、暴走したAIによる人類の殺りくを防ぐことへと方向転換していた。ティール氏は「AIの安全性を重視する人々」がオープンAIを「破壊する」と繰り返し予言していた。
