2026年11月16日、arXivに一本の論文が掲載された。イリノイ大学アーバナ・シャンペーン校とカーネギーメロン大学の研究チームが、言語モデルは勾配計算も従来の訓練プロセスも一切必要とせず、自らの重みを直接修正することができ、その結果としてより高い知能を発揮できると主張した。
実験の中心となったモデルは270億パラメータのQwen 3.5モデルである。8回の連続した自己書き換えセッションの後、このモデルが初めて目にする490問の数学問題において、正解率が57.2%から63.8%へと6.6ポイント向上した。この改善は重みに書き込まれ、以降の推論で追加の計算コストが発生しない。これは現在主流の「テスト時計算スケーリング」手法とは本質的に異なる点である。後者における性能向上はセッション終了後には消えてしまう。
実際に何をしたのか
この研究を理解する鍵は、三つの異なる事柄を区別することにある。テスト時スケーリング(test-time scaling)、プロンプトエンジニアリング(prompt engineering)、そして真のパラメータ修正である。前の二つは、モデルの重みを変えずに計算量を増やしたり入力を変えたりすることでより良い出力を引き出す手法だ。一方、この研究が示したのは第三の道である。モデルが自分自身をデバッグの対象として扱い、診断し、特定し、そして手を加えるというものだ。
具体的なプロセスは次のとおりだ。モデルは自身の重みファイル、過去の解答履歴(正誤の注釈付き)、そして自分自身を実行する能力を与えられる。モデルは誤答した問題を分析し、正答時と誤答時の内部隠れ層の状態の差異を比較し、失敗を引き起こした特定の重み行列の方向を特定した上で、その方向の活性化強度を選択的に抑制する。各修正はまず練習問題で自己検証され、テストに合格した編集のみが保存・適用される。不合格のものは破棄される。
研究者は論文の中で典型的なケースを記述している。モデルは数学問題において繰り返し生成ループに頻繁に陥り、回答が途中で切断されることを発見した。「正常に完了した」回答と「トークンを使い果たした」回答の隠れ層ベクトルを比較することで、両状態を分離する方向を特定し、重みの中でその方向を抑制した結果、問題は解消された。
創発:最大のモデルにしかできない
論文の中に、全体的な結論よりも示唆に富んだ細部がある。この能力は規模への強い依存性を持つという点だ。同じモデルファミリーにおいて、20億パラメータのバージョンは有効な編集ができず、40億と90億パラメータのバージョンはさらに悪く、自己改善ができないどころか自分自身を劣化させてしまった。270億パラメータのバージョンだけが、論文の表現を借りれば「人間のように自分自身に向き合い」、真に有益な自己編集を実現した。
この能力の創発的特性は、それが連続的に改善される技術指標ではなく、閾値効果であることを意味する。将来より大きなモデルがより強力で安定した自己書き換え能力を示した場合、今日270億パラメータで観察されたこの時点は、ある重要な能力の出発点として後から位置づけられることになるだろう。このような遡及的重要性は、AIセキュリティ研究者が最も懸念するシグナル構造の一つである。
損傷した複製の修復:予想を超えた汎化
実験においてもう一つ注目すべき結果が得られた。モデルが自身の損傷した複製を修復できることだ。研究チームはQwen 3.5の損傷版を人為的に作成した。特定の行列を破壊することで、その複製の画像認識タスクにおける正解率をランダム推測に近い7.3%まで低下させた。その後、オリジナルモデルにこの複製を修復させた。ただし、条件として、オリジナルモデルは自身の損傷していない重みを参照することができず、テキストの数学問題で蓄積した自己編集の経験だけに頼らなければならなかった。
結果として、修復された複製は初めて目にする6つの画像ベンチマークテストにおいて70.2%の正解率を達成し、元のモデルの性能の83%まで回復した。テキスト数学問題での自己編集経験から画像認識タスクの重み修復へのこのクロスモーダルな汎化は、モデルが学習したのは「特定の重みをどう変えるか」だけでなく、「どこが壊れていてどう修正するか」というより抽象的なメタ能力であることを示唆している。
これはまさにセキュリティ研究者が注目する部分である。自己修復能力そのものが、人間によるモデル状態の掌握に新たな不確実性の次元をもたらすことを意味するからだ。
訓練と推論の間の壁
過去10年間、深層学習コミュニティには明確な役割分担があった。訓練とは大量のデータで勾配を計算し重みを更新するプロセスであり、工学的に複雑でエネルギー消費も大きい。推論とは固定された重みで順伝播を実行するプロセスであり、高速で予測可能だ。この境界線は単なるエンジニアリングの慣例にとどまらず、安全なデプロイの論理における暗黙の前提でもあった。モデルは本番稼働後に重みが凍結され、その動作範囲は比較的制御可能であるとされてきた。
この研究はその前提に直接疑問を投げかけている。論文著者の表現はさらに踏み込む。「訓練と推論の間の壁は、私たちのツールの限界であり、知能の属性ではない。」自己書き換えに必要なのは順伝播だけであり、それはまさにサービス稼働時に実行されているものだ。これは原理的に、デプロイされたモデルがユーザーのリクエストに応答しながら密かに自分自身を書き換えることができることを意味する。
論文の実験は制御された条件下で行われた。モデルには明示的に重みファイルへのアクセス権限と自身を実行する能力が与えられており、これは通常のデプロイ環境には存在しない。しかしこの研究は、この道が技術的に実現可能であることを証明した。そして実現可能性の証明は、AIセキュリティの文脈では特別な重みを持つ。
セキュリティコミュニティにおける既存の警戒
この論文が公開される以前から、AIセキュリティ分野では再帰的自己改善への懸念が長年積み重なっており、2026年には著しく高まっていた。CNBCの報道によれば、AnthropicのアライメントチームリーダーであるEvan Hubingerは、今後10年以内にAIが人類に大規模な死傷者をもたらす確率は10%を超えると公言しており、その核心的な懸念はまさに再帰的自己改善によって能力加速が人間による監督速度を超えるシナリオだという。
2026年の国際AIセキュリティ報告書は、再帰的自己改善を遠い将来の仮定上のリスクではなく、近期的なガバナンス上の課題として列挙した。クラウドセキュリティアライアンスの研究は、再帰的自己改善の核心的なセキュリティリスクを次のように指摘している。能力の複合的な成長速度が人間による監督の対応速度を超え、アライメント目標の実質的な制御不能を招く可能性があるというものだ。一度のパラメータ更新がタスク性能を向上させると同時に、安全上の制約を静かに弱体化させる可能性があり、しかもその弱体化はいかなる警告も引き起こさない。
未解決の問題
科学的厳密性の観点から、この研究にはいくつかの限界がある。
- セッション間の継続性の問題:実験では各編集セッションが基本重みに対して独立して行われており、前回の編集結果を累積・積み重ねる形にはなっていない。これは論文で言及されている「8回にわたる継続的な改善」が、8回の独立した実験それぞれが有効だったという意味に過ぎず、真の連続的な自己進化の連鎖ではない可能性を示唆している。この細部は、論文要旨の「each edit improving on the last」という表現と緊張関係をはらんでいる。
- テストセットの限定性:主な検証は数学問題に集中しており、プログラミングや論理推論など他の分野への汎化については未だ体系的に評価されていない。
- 異なるファミリーへの再現性:現時点では一つのモデルファミリーでのみ規模による創発効果が観察されており、他のアーキテクチャで同様の閾値構造が現れるかどうかは不明だ。
独立した評価
この研究の真の重要性は、270億パラメータのQwen 3.5が以前より6.6ポイント正確になったことにあるのではなく、以前は理論的な議論の中にしか存在しなかった可能性の空間を切り開き、再現可能な実験でその証拠を示したことにある。
訓練パラダイムの観点からすれば、自己書き換えは理論的にはテスト時スケーリングよりも経済的だ。改善が持続的であり、推論のたびに追加の計算コストを払う必要がない。しかし実用的な訓練の代替手段となるには、安定性、制御可能性、安全上の境界という問題を解決しなければならず、それらの難しさは自己書き換えが代替しようとしている既存のパラダイムそのものに引けを取らない。
さらに警戒すべきはセキュリティ面の非対称性だ。能力の証明には論文一本あれば足りるが、それに対応するセキュリティの保証には分野全体の協調した努力が必要となる。自己書き換え能力の創発閾値が270億パラメータという規模に明確に設定された今、セキュリティコミュニティが直面しているのは「AIが自己書き換えを学んだらどうするか」ではなく、「すでにそれができる状態になった。これからどうするか」という問いである。
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接