MemRouter：メモリ・アズ・エンベディングによる長期会話エージェントのルーティング

要旨: 長期的な会話エージェントは、外部メモリに保存するどのターンを選ぶかを決定する必要があるが、近年のシステムは、その決定を行うために各ターンごとに自己回帰的なLLM生成に依存している。そこで我々は、書き込み側のメモリルータであるMemRouterを提案する。これは、メモリの許可（admission）を下流の回答バックボーンから切り離し、ターンごとのメモリ管理のデコーディングを、埋め込みベースのルーティング方策で置き換える。MemRouterは、直近の文脈とともに各ターンをエンコードし、その結果得られた埋め込みを凍結したLLMバックボーンを通して射影し、軽量な分類ヘッドによって、そのターンを保存すべきかどうかを予測する。学習はわずか12Mパラメータのみで行う。LoCoMoにおける制御されたマッチド・ハーネス比較では、検索パイプライン、回答プロンプト、QAバックボーン（Qwen2.5-7B）を同一に保ったまま、MemRouterはあらゆる質問カテゴリにおいてLLMベースのメモリ管理者を上回る（総合F1 52.0 vs 45.6、95%のCIが重ならない）一方で、メモリ管理のp50レイテンシを970msから58msへと削減する。記述的な因子分解平均により、学習された許可はランダムな保存に対して平均F1を+10.3改善し、カテゴリ固有のプロンプトは汎用プロンプトに対して+5.2加え、検索はさらに+0.7寄与することが示される。これらの結果は、書き込み側のメモリ許可が小さな教師ありルータによって学習可能である一方、回答生成は長期ホライゾンの会話型QAにおいて別個の下流コンポーネントとして維持されることを示唆している。