イーロン・マスクとピーター・ティール
『テクノ・リバタリアン』では「第一世代」としてイーロン・マスクとピーター・ティールを論じたが、この2人もAI開発に深く関わっている。
デミス・ハサビスは1976年に、中国系シンガポール人の母と、北ロンドンで玩具店を営むギリシア系キプロス人の父のもとに生まれた。ハサビスは子どもの頃からゲームの天才で、14歳以下のチェスプレイヤーのなかで世界2位にランクされ、ケンブリッジ大学でコンピュータ科学を学びながら、チェス、囲碁、スクランブル、バックギャモン、ポーカーなど、あらゆる知的ゲームのなかから得意とする5種目で競うペンタマインドという競技に21歳で優勝、その後の5年間で4回優勝した（唯一、優勝していなかった年は出場していなかった）。
ハサビスはケンブリッジ時代の知り合いとコンピュータゲームの会社を起業したのち、2010年に人間の知能を目指す「ディープマインド」を設立する。社名はディープラーニングと神経科学、そしてダグラス・アダムスのSF小説『銀河ヒッチハイク ガイド』（イーロン・マスクが偏愛していることで知られる）に登場するスーパーコンピュータ「ディープソート」に由来する。
ハサビスは会社を設立する前から、「シンギュラリティ・サミット」と呼ばれる未来学者の年次会議に参加していた。その参加者たちは、人工知能だけでなく、寿命延長技術なども熱心に研究していた。その会議の創設者のひとりがベンチャー投資家のピーター・ティールだ。
サンフランシスコにあるティールの自宅で行なわれたプライベート・パーティに招待されたハサビスは、チェスの達人（13歳未満のチェス競技会で全米７位にランキングされた）であるティールに、自分もチェスプレイヤーだと話し、2人でチェスというゲームについて話し合った。この会話で興味をもったティールは、もういちど来るようにいった。
翌朝、ハサビスたちがふたたび邸宅を訪れると、ティールはTシャツにショートパンツ姿で、日課の運動のあとらしく汗をかいていた。執事がダイエットコークをもってきて、一同はダイニングルームのテーブルについた。
ハサビスが人間の脳をイメージした汎用人工知能（AGI）の開発を目指していると説明すると、ティールは「これは話が大きすぎるかもしれない」と驚いたが、ティールと彼のベンチャーキャピタル「ファウンダーズ・ファンド」のパートナーたちがディープマインドの創業資金200万ポンドのうち140万ポンドを出資することに決まった。その後、この投資にイーロン・マスクも加わった。
ハサビスたちの最初の成果は、ブロックくずしを自己学習するディープ・ニューラルネットワークだった。何がうまくいって何がうまくいかなかったか、綿密な記録をとりながらゲームを何百回もこなす「強化学習」を使い、ほんの2時間後には、AIはブロック壁のうしろにボールを打てば、ほぼ際限なく跳ね返ってブロックを次々と崩し、得点が加算されることを学習した。最終的には、このAIはどんな人間もかなわない速さと正確さでプレイできるようになった。
このシステムをつくりあげると、ハサビスはその動画をファウンダーズ・ファンドの出資者たちに送った。そのなかに、ティールとともにペイパルを立ち上げた「ペイパル・マフィア」の一人で、スペースXの最初の出資者でもあるルーク・ノセックがいた。
ノセックはプライベートジェットの機上で、イーロン・マスクにその動画を見せた。そのとき、たまたま同乗していたのがグーグル創業者のラリー・ペイジで、ノセックとマスクの会話を聞いてこの新興AI企業への興味が掻き立てられた。
そこでペイジは、ジェフリー・ヒントンらをつれてロンドンのディープマインドを調査し、 翌月、社員50人のAI開発企業を6億5000万ドルで買収すると発表した。じつはメタ（フェイスブック）がその倍の金額でディープマインドを買収しようと決めていたが、すでに手遅れだった。
マーク・ザッカーバーグは、ヒントンと並ぶニューラルネットワークの第一人者ヤン・ルカンを副社長兼主任AI科学者に迎え、AIを「次なる目玉」であり「フェイスブックにとっての次のステップ」にしようとしていた。ザッカーバーグにディープマインドを紹介したのはピーター・ティールで、ティールはフェイスブックの最初期の投資家で取締役を務めていた。
「AIの進化によって長くても10年以内に何かひどく危険なことが起こる可能性がある」
2014年11月、イーロン・マスクはAIが驚異的な速さで進歩しているとして、ウェブサイトに次のようなメッセージを投稿した。
ディープマインドのようなグループに直接かかわる機会でもないかぎり、それがどれだけ速いかはわからないだろう。指数関数的な速さで進歩しているのだ。5年以内には、何かひどく危険なことが起きる可能性がある。長くても10年以内には。私は自分の知らない何かについて、でたらめを言って脅かしているわけではない。懸念を抱いているのは、私だけではない。主要なAI企業は、安全を確保するために大きな進歩をとげている。彼らは危険を認識しているが、デジタルの超知能をつくり、それを制御することで、悪いものがインターネットのなかへ流れ込むのを防ぐことができると考えている。それは、あいかわらず……。
それ以前にマスクは、ノンフィクション作家のアシュリー・ヴァンスに「ラリー・ペイジが、AIロボットの軍隊をつくっていて、それが最終的には人類を滅ぼしかねないことを懸念している」と語っていた。マスクとペイジは親しい友人で、マスクはペイジの家の長椅子で眠ることもたびたびあった（『イーロン・マスク 未来を創る男』 斎藤栄一郎訳／講談社）。
マスクが恐れていたのは、グーグルがつくるものはなんでも世界のためになるという前提のもとで活動していることだった。「彼（ペイジ）は偶然、何か邪悪なものをつくってしまうかもしれない」のだ。
マスクはCNBCのインタビューで、「これを描いた映画がある」として『ターミネーター』をもちだした。人工知能は「核爆弾よりも危険となる可能性がある」とツイートし、ニック・ボストロムの『スーパーインテリジェンス 超絶AIと人類の命運』（倉骨彰訳、日本経済新聞出版社）をフォロワーたちに強く勧めた。哲学者のボストロムは、ペーパークリップの生産を最大化しようとするAIが、「まずは地球全体を、それから拡大しつつある宇宙領域を、ペーパークリップの生産設備に変えてしまうかもしれない」という思考実験を行なった。
マスクは『ヴァニティ・フェア』の会議の壇上で、「もし研究者たちが、スパムメールをやっつけるためのシステムを設計したら、そのシステムは最終的に、スパムメールをすべて排除する最善の方法は、全人類を抹殺することだという結論に達するかもしれない」と警告した。
聞き役のウォルター・アイザックソンが「スペースXのロケットでそうした殺人ロボットから逃れるつもりなのか」と訊くと、マスクは、逃れることはできないと思うと答えた。「世界を終わらせるシナリオだったなら、地球から追ってくるだろう」
