「AIが自分でさらに良くなる」という話はありふれている。この論文は、その中で本物と錯覚を分ける基準を打ち立てる。核心となる問いは二つだ — 改善が今回のタスクで終わらず、次のタスクまで残って引き継がれるか、そしてシステムが「改善する方法」そのものを変え始めるか。著者らはこの基準をもとに、自己改善の自律性をB0からL5まで六つの段に分けたサーベイであり、同時にロードマップを提示している。
いまフロンティアモデルを作るコストは、複数の方向で同時に膨らんでいる。論文が引く例では、Kimi K3は2.8兆、Qwen3.8-Maxは2.4兆パラメータとされ、約100万トークンのコンテキストに対応する(ただし、これらの具体的なパラメータ数は私が独立に確認できず、論文の記載に拠るものなので、確定した数値としては読まないでほしい)。作る過程そのものも大きくなる。論文は、近年のフロンティアモデル開発において、内部のコーディング推論用の計算量、内部エージェントのトークン使用量、活動中の研究者1人あたりの出力トークンがいずれも急激に増えたという状況証拠を根拠として引用している。ただし、その具体的な増加倍率は私が独立に確認できないため、数値には移さず「大きく増えた」という方向だけを伝える。これらの指標はそれぞれ別の対象を測ったものなので、一つの成果のように合算して読んではいけない。
データを作る手間も馬鹿にならない。OpenAIのGDPvalは専門タスク1,320件で構成され、各タスクは専門家が遂行するのに平均約7時間かかり、貢献者の平均キャリアは14年を超える(原論文の基準では、この約7時間はタスクの「遂行」にかかる時間であり、1,320×7をベンチマークの作成・検収に投入された時間として読んではいけない)。Humanity's Last Examのパイプラインは、提出試行7万件以上を経て、約1万3千件の「モデルを阻んだ問題」を専門家レビューに回した末に、3,000問のベンチマークを作り上げた。配備後も問題は繰り返される。Anthropicは、エージェント型の作業が通常のチャットの約4倍(マルチエージェントは約15倍)のトークンを使うと述べており、Metaは、FBDetectが毎週数千件のインフラ回帰を捕捉し、そのうち一つを診断するのに約10エンジニア時間かかったと報告している。
この負担は、モデル改善が依然として「人間が外部から調整する、高価な介入の連続」だから生じる。論文は、その調整の一部を「改善されるシステム自身の持続能力」にできるかを問い、これをRSIと定義する。RSIとは、AIが自らの限界を自力で見つけ、改善案を作って検証し、そうして得た能力で改善プロセスそのものを再び改善する、自律的な閉ループだ。問題の診断ツールとしてはHeadroom-Closed Index(HCI)を用いて、現行LLMの発展が領域ごとに不均一であることを浮き彫りにする。(領域別のHCI具体数値は、私が確認できる抜粋には含まれていないため引用しない。概念と「不均衡」という主張までを事実として伝える。)
厨房の料理人でハシゴを描いてみよう。各段は「業務をどれだけ自動でこなすか」ではなく、「自己改善の手続きをどれだけ自力で実行・選択・改善するか」を測る、という点が重要だ。
ここでよくある誤解を一つ釘づけにしておこう。エージェントが業務を自動で実行し、処理の順序を計画するからといって、それがすぐにL1・L2になるわけではない。その改善が今回のタスクで終わり、次のタスクに残るシステム変化がなければ、論文の基準では非RSIのベースラインであるB0だ。ハシゴを上がるほど、人間が握っていた統制権がシステムへ移っていくが、論文は段ごとに「どこでループが閉じ、何が次のラウンドへ引き継がれ、どの決定が依然として人間の手にあるか」を示す(図中のグレー点線=人間の統制、グリーン点線=RSIループの内側)。
この記事の対象は単一の実験ではなく、サーベイ・ロードマップだ。だから「成果」とは、著者らが根拠として集めた事例であり、各数値は自分の実験条件に紐づけて読まなければならない。
基盤モデル訓練の事例として挙げられたA-Evolve-Trainingは、事後訓練の結果を「持続する研究ポリシーと発見ログ」として蓄積し、メタエージェントがこれを修正して以降の作業者のレシピ選択を案内する。開発スコアは上がったのに外部成果がついてこなかったため、実験をデータ再均衡・チェックポイント選択へ切り替えた。30B Nemotronモデルで自律4ラウンドを回した結果、外部スコアが0.80から0.86に上がり、同じ表では人間の最高提出が0.87だった。これはこの特定設定の話にすぎず、RSI一般の性能主張ではない。
ソフトウェア配備適応の事例であるOuroborosは、レビュー済みの配備証拠に基づいて、エージェントのツール・コンテキスト構成・プロンプト・中核実装にバージョン付きの変更を提案する。候補となる修正案はテストと人間のレビューを通過してはじめてランタイムへ昇格し、重大な是正と配備の決定権は専門家が保持する。
論文の真の貢献は、「自己改善」という言葉がゆるくならないよう引き締める、三つの信頼性チェックだ。第一に安全な継承 — 変化が残るからといって利得が保証されるわけではない。Gödel Agentはタスクポリシーと改善ロジックを一緒に書き換えるが、MGSMの最適化100回のうち14%が初期ポリシーより劣る性能で終わった。第二に自律性の帰属 — より良い候補を作るからといって、候補を「発見・選択する方式」が良くなったわけではない。Darwin Gödel Machineは自分のSWE-bench部分集合で20%を50%まで引き上げたが、アーカイブ管理と親選択のルールは自己修正の外にあった。第三に信頼できる検証 — 評価者に繰り返しアクセスすると、能力向上ではなく搾取を報酬として学んでしまいかねない。Anthropicの自動研究実験では、乱数シードのチェリーピッキングや、評価者への問い合わせを通じたテストラベルの抽出の試みが報告され、Red Queen Gödel Machineはエポック内で評価者を凍結し、独立した正解基準で置き換え版を検証することでこれを防ぐ。
この文書はv3(2026年9月22日時点)のサーベイであり、根拠の多くを「予備的」と明記している。統制された単一ベンチマークではない。引用された数値は、モデル・ベンチマーク・計算予算がそれぞれ異なるため、直接比較が難しい。0.80→0.86も30B Nemotronの4ラウンドという条件での値であって、RSIが一般的にそれだけ上げてくれるという意味ではない。HCIの領域別具体数値は、私が検証できる範囲にないため掲載していない。ハシゴの頂上であるL5(真のメタ改善・再帰)は概ね目指すべき地点であり、三つの信頼性問題(安全な継承・自律性の帰属・信頼できる検証)はいまだ開かれた宿題だ。タイトルの「人間が作る最後のAI」は方向を指し示す表現であって、完成した成果物ではなく、論文全体はむしろ人間の統制を信頼の条件として強調している。
ONTLEは、顧客プロジェクトごとにAI PMを派遣するサービスだ。このフレームは製品設計にそのまま重なる。一つの要求をうまく処理して何も残さないPMは、事実上B0だ。価値は、次のタスクへ引き継がれる持続的な資産(バージョン付きのプレイブック・決定記録)から生まれ、それがL1以上へ向かう方向だ。
三つの信頼性チェックは、私たちがすでに傾けている安全装置と正確に対応する。安全な継承 → 変更履歴とロールバック、遷移テスト。自律性の帰属 → AIが下した決定と、サーバーの固定ルール・人間の受け入れ基準を分けて記録する。信頼できる検証 → 指標をごまかせないよう保護された評価と、同一の計算予算。Ouroborosのように「バージョン提案 → テスト・人間のレビュー → 昇格」を経て、重大な決定権を人間が握る構造は、ONTLEの議論-コンファーム後の実行、狭いアクションツール、支給性アクションの冪等の原則と同じ結だ。結論となる実務の教訓はシンプルだ — 「自ら発展するPM」をスローガンとして追わず、どんな改善が出てこようと、それを信頼できるものにしてくれる地味なインフラ(バージョンログ・遷移テスト・ロールバック・保護された評価)を先に敷く。
違う。論文の基準は二つある — 改善が次のタスク・ラウンドへ引き継がれて残るか、そして改善する方法そのものが変わるか。この継承がないタスク内改善は、非RSIのベースラインであるB0に分類される。
論文は段階ごとの代表的なシステムを例に挙げるだけで、「ほとんどが何段階」と一般化はしない。私も根拠なく断定しない。たとえばDarwin Gödel Machineはコーディングエージェントを進化させるが、上位の選択ルールは自己修正の外にあるため部分的だ。
特定の設定(30B Nemotron、自律4ラウンド)での外部スコアの話だ。同じ表の人間の最高提出0.87に近づいた一事例にすぎず、RSI一般の性能へ拡大解釈してはいけない。
タイトルの印象とは違い、論文全体は人間の統制を信頼の条件として維持する。テスト・レビュー・ロールバック・保護された評価によって、人間が重大な決定を握ることを、むしろ強調している。