recursive self-improvement:
再帰的自己改善

AIが後継モデルを自律的に設計・開発する時代へ、アンソロピックは警鐘を鳴らす

 再帰的自己改善(recursive self-improvement=RSI)。人工知能(AI)が人間の手を借りずに自己改良を繰り返し、最終的に汎用人工知能(AGI)へ進化していく状況を指す。

 ほんの数年前までRSIはSF小説に出てくるような話だった。しかしAI時代の到来で現実味が増している。6月上旬に衝撃的データが明らかになったからなおさらだ。

 衝撃的データとは、AIスタートアップの米アンソロピックが公開した社内データのこと。それによると、同社のプログラミングコードの大半は人間によってではなくAIによって書かれるようになっている。5月時点の社内データによれば、アンソロピックのコードベースに新たに組み込まれるコードのうち80%以上がAIモデル「Claude(クロード)」によって作成されている。1桁台前半だった昨年2月以前と比べて様変わりした。

 AIが大半のコードを書くとなれば、AIを活用するエンジニアの生産性は大幅に上昇する。1~3月期を見てみると、エンジニア1人当たりのコード生産量(lines of code merged)は2024年と比べて8倍になった。

 アンソロピックはブログ記事の中でこう書いている。

 Taken far enough, and given enough compute, that trend points to an AI system capable of fully autonomously designing and developing its own successor. This is called recursive self-improvement.(膨大な計算資源が投入され、現在のトレンドがそのまま続けば、完全に自律的に後継モデルを設計・開発するAIシステムが誕生するだろう。それこそRSIだ。)

 その上で警鐘を鳴らしている。