AI時代に問われる「良心」とは（写真はイメージです） Photo:PIXTA
「世界は危機に瀕している」――AI開発の最前線から、良心ある研究者の離脱が相次いでいる。安全性を掲げてきたAnthropicでさえ、競争圧力の前に原則を揺らがせる。マイクロソフトやグーグルでエンジニアとして活躍し、複数の企業で技術顧問を務める及川卓也氏が、AI時代に人間が担い続ける役割を問う、連載最終回。
「AIのゴッドファーザー」の警告から3年
相次ぐ「良心の離脱」
前回の記事『トヨタを超える60兆円規模のAI企業Anthropicが、OpenAIと決別した本当の理由』では、Anthropicという企業の正体を掘り下げました。哲学者がAIの性格を設計し、元・生物物理学者がCEOを務める異色の布陣に、製薬会社が10週間かけていた臨床試験レポート作成を10分に短縮した実績。そして「安全性の旗手」という評価。これらの事実だけ見れば、文句のない企業に見えます。
ただ、その記事の末尾に私は1つの留保を残しました。「安全性の旗手を自任しながら、その看板が揺らぐ場面も出てきています」と。この企業に期待しているからこそ、連載最終回となる今回は、同社が抱える課題、ひいてはAI時代に生きる私たち人間が抱える課題を直視したいと考えています。
この話を始めるには、3年前まで遡る必要があります。
2023年5月、「AIのゴッドファーザー」と呼ばれる1人の研究者がGoogleを去りました。ジェフリー・ヒントン博士。ディープラーニングの基礎を築き、2024年にノーベル物理学賞を受賞することになる人物です。75歳での退職理由は明確でした。自分が作り上げた技術が人類に脅威をもたらす可能性を、所属企業への気兼ねなく自由に語るためです。
博士が警告したのは、悪意ある人間によるAIの悪用、制御不能な「デジタル知能」への進化、そして競争圧力によってAI開発企業が自制を失うことでした。当時、この警告は「高齢の研究者の個人的見解」として受け流す空気もありました。しかしその後の3年間、AIの能力は誰の予想をも上回る速度で進化していきます。
