バイレベル自己探索（Bilevel Autoresearch）：自己自身をメタ自己探索する

arXiv cs.AI / 2026/3/25

💬 オピニオンSignals & Early TrendsIdeas & Deep AnalysisModels & Research

共有:

要点

提案論文「Bilevel Autoresearch」は、通常のautoresearch（タスクを解く探索）を、そのまま“自己”に適用して、innerループの探索手法そのものをouterループで最適化する枠組みを示しています。
outerループは、Pythonコードとして新しい探索メカニズムを生成してinnerループへ注入し、どの探索ドメインを試すかも人手で指定せずに探索機構を自律的に発見すると主張しています。
実験ではKarpathyのGPT pretraining benchmarkで、innerループ単体に比べてouterループが約5倍の改善（-0.045 vs. -0.009）を達成し、単なるパラメータ調整では信頼できる改善が得られなかったと報告しています。
metaレベルでも同一のLLMを用い、より強いモデルを必要としない設計で、outerループがinnerループの決定的な探索パターンを崩してLLMの事前分布が避けがちな方向へ強制的に探索を広げる点がメカニズムの鍵とされています。