EVIL:LLMを用いたイベント系列と時系列に対するゼロショット推論のための、解釈可能なアルゴリズムの進化

arXiv cs.LG / 2026/4/20

📰 ニュースIdeas & Deep AnalysisModels & Research

要点

  • この論文はEVILを提案し、LLMに導かれた進化的探索によって、学習用データを大規模に用いたニューラルネットワーク学習なしで、動力学システムの推論に適した単純で完全に解釈可能なPython/NumPyプログラムを進化させます。
  • EVILは、進化によって得られた単一のコンパクトな推論関数が複数のデータセットにわたって汎化することで、データセットごとの学習を行わずにゼロショットのインコンテキスト推論を実現します。
  • 評価は、時間的ポイント過程での次イベント予測、マルコフジャンプ過程でのレート行列推定、時系列補完という3つの時間・イベント系列タスクで行われます。
  • 結果として、進化で得られたアルゴリズムは、深層学習の最先端モデルと比べて競争力がある、あるいは上回る場合が多く、さらに桁違いに高速でありながら、完全な解釈可能性を維持しています。
  • 本研究は、LLM誘導のプログラム進化によって、これらの動力学システム問題に対し単一の統一された推論関数を得られることを示した初めての試みだと主張しています。

要旨: 私たちはEVIL(\textbf{E}V\textbf{I}nterpretableアルゴリズムを\textbf{L}LMで進化させる)を提案します。これは、LLMに導かれた進化的探索を用いて、力学系の推論のための単純で解釈可能なアルゴリズムを発見する手法です。大規模データセットでニューラルネットワークを学習するのではなく、EVILは、データセットをまたいだゼロショットのインコンテキスト推論を実行する純粋なPython/NumPyプログラムを進化させます。EVILを、3つの異なるタスクに適用します。すなわち、時間的点過程における次イベント予測、マルコフジャンプ過程に対するレート行列推定、時系列の補完です。いずれの場合も、進化されたアルゴリズムはデータセットごとの学習なしに、すべての評価データセットへ単一のアルゴリズムとして汎化します(償却推論モデルに類似)。私たちの知る限り、LLMに導かれたプログラム進化によって、これらの力学系問題に対して単一のコンパクトな推論関数を見いだせることを示した最初の研究です。3つの領域にわたって、発見されたアルゴリズムはしばしば最先端の深層学習モデルと競合し、さらには上回ることもあります。一方で計算は桁違いに高速で、かつ完全に解釈可能なままです。