なぜFacebook AI Researchは
実験を中止したのか？
シンギュラリティの予兆を隠す意図はなかったのか？
もっとも、平静を装うルブリュン氏ですが、「実験を強制終了した」ことは認めています。
その理由は、「研究には活用できない会話だと判断したから」。
そして、「私たちは決してパニックにはなっていない」と強調しています。
まず、AIを研究していてつくづく思うのは、その場にいたわけでも、当該のAIの開発者でもない私は、当事者の説明に頼らなければならないわけですが、AIはともかく人間は嘘をつきます。
俗に言うポジショントークで、自分や、自分が属する組織・企業に不利益な発言は絶対にしません。
要するに、当事者の説明の裏を読まなければならないということです。
今回のケースでは、もしルブリュン氏が「あの実験は、後から振り返ったときに初めて起きたシンギュラリティだった」などと発言すれば、我々人類は大混乱に陥ることでしょう。
そうでなくとも、すでにグーグルが「AIがAIを教育する」という、これぞシンギュラリティという実験を行っているような時代にそんな発言をすれば、これはもはや一企業の実験では済まなくなります。
全世界の政治のトップも無関心ではいられなくなり、法整備を急がなければなりません。
かと言って、『ボブ』と『アリス』の会話をシンギュラリティと定義することももちろんできません。
