AIが自分自身を作り直す時代 何が本当に起きるのか

■ はじめに

最近、AI業界で急に増えた言葉があります。

再帰的自己改善。

英語では Recursive Self Improvement、略してRSIと呼ばれます。

意味は文字どおりです。

AIが自分より優れたAIを作り、その新しいAIがさらに優れたAIを作り、それが延々と続く。そういう状態を指します。

この言葉が急に注目された理由もはっきりしています。

主要なAI企業が、自社のAIシステムのコードの8割以上を自社のAIが書いている、と公表したからです。

AIを作る会社がAIにコードを書かせる。

当然の流れです。

そうなると、次の疑問が出てきます。

もしAIが、自分の次のバージョンを100パーセント自分で書けるようになったら、何が起きるのか。

この記事では、その問いを冷静に分解します。

煽るためでも、否定するためでもなく、実際に何がボトルネックになっているかを見ます。

■ この話は60年前からある

新しい言葉ですが、概念自体は古いものです。

1965年、数学者のアーヴィング・ジョン・グッドが「知能爆発」という考えを示しました。

要約するとこうです。

どんな賢い人間よりも知的な機械を考える。

機械の設計も知的な活動の一つである以上、その機械はもっと優れた機械を設計できる。

すると知能爆発が起き、人間の知能は遥か後方に置き去りにされる。

したがって、最初の超知能機械は、人間が作る必要のある最後の発明になる。

この考えは後にシンギュラリティ、日本語では技術的特異点と呼ばれるようになりました。

技術の進歩が加速し続け、やがて人間には理解も制御もできない速度に達する、という仮説です。

期待する人にとっては人類の飛躍であり、心配する人にとっては終わりの始まりです。

どちらの立場に立つかで、同じ現象がまったく違って見えます。

ただ、その前にやるべきことがあります。

いま実際に何が起きているのかを、具体的に見ることです。

■ そもそもAIとは何でできているのか

ここが一番の誤解ポイントです。

AIというと、コンピュータの中に脳のようなものが1つ入っている、というイメージを持ちがちです。

入力すると何か返ってくるので、そう感じるのは自然です。

でも実際は違います。

AIは作られたものであり、作る過程で数百から数千の判断が積み重なっています。

作る人たちは、この一連の判断のことを「レシピ」と呼びます。

ケーキを焼くと言っても、それだけでは作れません。どんなケーキか、どの大きさか、何を入れるか、どれだけ焼くか。全部決める必要があります。

AIも同じで、最低限これだけは決めなければなりません。

・全体の設計をどうするか

・細部をどう作り込むか

・どんなデータを使い、どう掃除するか

・どれだけの時間、どういう順序で学習させるか

・完成した後、どう動かすか

一つ一つの答えが、最終的な性能と使い心地に効いてきます。

そして重要なのは、これらの判断の中には「長年の研究で分かったこと」と「なんとなくうまく動いているから、という理由で決まっていること」が混在している点です。

■ 中身を分解する

RSIがどこまで通用するかを判断するには、AIを部品に分けて考える必要があります。

【1】全体の設計

言語モデルの作り方は一つではありません。

確率的なモデル、再帰型ニューラルネットワーク、Transformer、拡散モデル、状態空間モデル。それぞれ得意不得意があります。

現在、実用レベルのモデルはほぼすべて Transformer という設計です。

2017年に登場して以来、基本構造は変わっていません。9年間、土台は同じままです。

【2】細部の作り込み

Transformer を選んだ後も、決めることが山ほどあります。

層の数。モデルの「高さ」です。

層の幅。各層のパラメータ数、つまり「太さ」です。

専門家の混合。大規模なAIは、少しずつ違うデータで訓練した小さなモデルの集合体になっています。何人の専門家を置くか、誰にどの質問を回すか、その振り分け役をどう作るか。全部設計事項です。

トークナイザ。AIは文字を扱えないので、文章を数字に変換します。この変換の仕方が回答の質に影響します。AIが「ストロベリーにrは何個あるか」を間違えるのは、文字ではなく数字しか見ていないからです。

コンテキストウィンドウ。一度に覚えていられる量です。ここを超えると、前に言ったことを忘れます。

注意機構の計算。ここが最も重い処理で、コストは扱う量の2乗で増えます。無駄な計算を再利用して軽くする手法があり、FlashAttention と呼ばれています。

位置の表現。単語の順序を保持する仕組みです。やり方次第で語順への敏感さが変わります。

正規化。数値が大きくなりすぎたり小さくなりすぎたりしないよう調整する処理です。

細かすぎると感じたなら、それで正解です。

言いたいのは中身ではなく、「決めることがこれだけある」という事実の方です。

【3】データ

AIはデータから振る舞いを学びます。ただし、ネットから拾ってきて放り込むわけではありません。

段階ごとに違うデータを使います。

事前学習では、本やウェブの文章を使います。

中間学習では、指示と回答の組を使って、頼まれたことに応える力を鍛えます。

事後学習では、回答への評価データを使って、良い返答を強め、悪い返答を弱めます。

ここでも判断だらけです。

どこからデータを集めるか。著作権は問題ないか。重複をどう除くか。人に評価してもらうなら、どの例を見せ、どんな指示を出し、いくら払うか。

特に最後の点は軽視されがちですが、報酬額はデータの質と相関します。

つまり、いくら払うかという経営判断が、AIの賢さに直結しています。

【4】学習の回し方

データと設計が決まったら、実際に学習を回します。

ここでも決めることが並びます。何周させるか。何件ずつまとめて処理するか。学習の速度をどう落としていくか。

一つだけ、後の議論に効く話を書いておきます。

検証可能な報酬という考え方があります。

コード、数学、論理。この3つは答えが合っているかを機械的に判定できます。判定できるということは、人間の手を借りずに自動で「正解」「不正解」を与え続けられるということです。

AIがこの3分野で急速に伸びたのは、能力が高いからというより、練習相手を無限に用意できたからです。

逆に言えば、正解判定ができない分野では、この手が使えません。

【5】動かす仕組み

ここが一番の盲点です。

モデル単体では何もしません。

実際にあなたが使っているものは、モデルの周りに大量の普通のプログラムがくっついた「システム」です。

入力の検査。不適切な指示を弾きます。

指示の加工。あなたの入力に、見えない指示文が足されます。

スキルファイル。特定の作業向けの指示書を、必要に応じて差し込みます。

出力の検査。おかしな回答を止めます。

ツール。ウェブ検索、天気の確認、ファイル検索。これらは決められた合図をモデルが出すと、外側のプログラムが実行して結果を差し戻す仕組みです。

つまり、ツール実行はモデルの中で起きていません。外側の普通のコードがやっています。

私たちがAIと呼んでいるものは、モデルと、モデルではない大量の普通のコードの合計です。

ここを理解しておかないと、次の議論を読み違えます。

■ いまのRSIはどこまで届いているのか

分解したうえで見ると、改善には3つの種類があることが分かります。

種類1　安く速くなるだけの改善

計算効率の改善です。同じ賢さのまま、動作が速くなり、費用が下がります。

会社の利益には効きますが、賢さは変わりません。

実例があります。GPUへのデータ出し入れを担うソフトウェアをAIに書き直させ、条件によって最大18倍以上の速度改善が出たという報告があります。

これは大きな成果ですが、モデルが賢くなったわけではありません。

種類2　賢く見えるようになる改善

検索の精度を上げる、スキルファイルを整える。

モデルの中身を1つも変えずに、体感品質が上がります。

利用者にとっては十分な進歩ですが、これも賢さそのものではありません。

種類3　本当に賢くなる改善

こちらは次の要素です。

・より良いデータ

・データのより良い使い方

・強化学習の手法と報酬設計の改善

・層の数や大きさなど、細部の最適化

・Transformer を置き換える新しい設計

そして現状はこうです。

AIが自力で改善できているのは、主に種類1と種類2、そして種類3のうち細部の最適化までです。

新しい設計の発見には、まだ届いていません。

■ 収穫は必ず減っていく

ここが記事の核心です。

RSIを無制限の加速として語る議論には、収穫逓減という視点が抜けています。

順番に見ます。

細部の最適化には底がある

注意機構の実装方法は無限にありません。

計算理論上、ある処理には「これ以上速くできない下限」が存在します。工夫で2乗を1乗に落とせても、それより下には行けません。

ハードウェアも同じです。物理法則が電子の流れる速度を決めています。

最適化には床があります。

スキルの追加も頭打ちになる

よく使う作業の指示書が揃ってしまえば、次に作れるのは、より使われない作業のものだけです。

数は増えても、効果は薄まっていきます。

最大の壁はデータ

ここが本当のボトルネックです。

安く手に入るデータは、ほぼ使い切りました。

これから必要になるのは専門的なデータですが、これは高くて遅い。

人間が作るデータは、人間が作れる速度でしか増えません。

センサーやロボットで現実世界から集める方法もありますが、センサーの台数、ロボットの台数、ロボットの動作速度に縛られます。

正解判定の仕組みを増やす、という手もあります。

ただし、その判定の仕組み自体を誰かが作り、現実と照らし合わせて正しさを検証しなければなりません。同じ壁に戻ってきます。

模擬環境で人工的にデータを生む方法も同様です。

模擬環境を作り、それが現実とずれていないか確認する作業から逃げられません。

要するに、必要なデータはどんどん専門的になり、作れる人も設備も限られ、コストが上がっていきます。

■ では、爆発は起きるのか

シナリオは3つあります。

【急激な離陸】

一気に加速して、人間が置き去りにされる展開です。

投資の世界で最も語られ、最も資金を集めているシナリオでもあります。

ただ、ここまで見てきた通り、細部の改善には底があり、データは詰まっていて、新設計の探索は途方もなく高い。

根拠が弱い、というのが妥当な評価です。

【緩やかな離陸】

AIは改善し続けるが、人間が追いつける速度で進む展開です。

AIが人間の思いつかない設計を見つける可能性はあります。

しかし、それが人間に理解できないものになるかというと、疑問です。

理由は単純です。

モデルの設計は、必ずコードとして存在します。パラメータの形と数を指定するコード、学習を回すコード。コードである以上、読めます。

さらに言えば、いまのAIはAIのコードの書き方を、人間が書いたAIのコードから学びました。

出発点が人間の直感なのだから、いきなり理解の外に飛ぶ理由がありません。

期待できるのは、人間に見つけられないものを見つけることではなく、人間より速く見つけることです。

AIは並列に動け、眠らず、食事も不要です。速度の差は本物です。ただし、それは速度であって、質の飛躍とは別の話です。

【離陸しない】

自然界に、本当の意味での無限の加速はほとんど存在しません。

最初は指数関数に見えても、資源やエネルギーの限界に近づくにつれてS字を描いて頭打ちになります。

AIの能力にも自然な上限があるなら、これが起きます。

急な立ち上がりの後、緩やかに天井へ近づいていく形です。

私の見立てを書いておきます。

現時点の証拠を素直に読むなら、緩やかな離陸か、頭打ちのどちらかです。急激な離陸を支持する材料は薄いと考えます。

■ 見落とされがちな物理的制約

もう一つ、記事であまり語られない話を足しておきます。

仮にAIが自分を改善し続けるとして、その改善には計算資源が要ります。

計算資源には電力が要ります。電力には発電所と送電網が要ります。

そして発電所も送電網も、ソフトウェアのようには増えません。

用地取得、環境影響評価、建設、系統接続。どれも年単位の作業で、しかも物理的な場所と資材が必要です。

これは、爆発的な加速を止める側の最も硬い制約です。

同時に、監視しやすい制約でもあります。

電力使用量の急増、新しい発電設備の建設、データセンターの増設、半導体工場の新設。

これらはどれも、瞬時には起こせず、現実世界に痕跡が残ります。隠せません。

つまり、仮に危険な加速が始まったとしても、その兆候は物理世界に先に現れます。

気づく時間はある、というのが冷静な見立てです。

■ AIがAIを作る仕組み自体は昔からある

最後に、この分野の実績を2つ挙げておきます。

進化的アルゴリズム

ランダムな設定をたくさん作り、性能を測り、良かったものを残して悪かったものを捨てる。これを繰り返します。生物の進化と同じ発想です。

ニューラルネットワークにも適用でき、層の大きさや深さ、つなぎ方が少し違う、より性能の良い変種が実際に見つかっています。

自己対戦による強化学習

囲碁のAIが人間の名人に勝った際の中核技術です。

同じ設計で少しずつ違う個体を用意し、対戦させ、最も強いものを固定して、残りにそれを倒す訓練をさせる。これを繰り返します。

どちらにも共通する弱点があります。

問題が難しくなるほど、必要な試行回数が増えることです。

そして1回の試行ごとに学習が発生します。おもちゃ程度の規模でも数時間から数週間。それを数百回から数千回。

つまり、この手法は原理として正しくても、コストが現実的な範囲に収まるかは別問題です。

RSIが従来手法と違う点は1つあります。

繰り返しの回し方そのものを、AIが途中で変えられることです。進み具合を見て、次にどこを試すべきか判断を変えられる。

ただしこれも万能ではありません。

繰り返しは、賢く遅く回すより、単純に速く回した方が結果が出る場合が多いからです。回し方の実験そのものが、失敗する可能性もあります。

■ まとめ

事実として、AIがAIのコードを書いています。近い将来の加速は確実に起きます。すでに起きています。

ただし現時点でのRSIは、計算効率を上げる方向の改善が中心です。

これ自体は良いことです。同じ性能を安く速く提供できれば、使える人が増えます。

一方、AIが本質的に賢くなるために必要なのは、新しいデータと新しい設計です。

そしてこの2つは、AIが加わっても簡単には手に入りません。データには物理的な生産速度の限界があり、設計の探索には天文学的な計算費用がかかります。

RSIの話は、放っておくとシンギュラリティの話になり、そこから人類の存続の話に滑っていきます。

話としては面白いのですが、途中の論理が飛んでいます。

いま押さえるべきなのは、加速そのものではありません。

どこが詰まっているのか。何が本当の制約なのか。その制約は観測できるのか。

この3つを見ておけば、次に何が起きても慌てずに済みます。