知識アクセスはモデルサイズに勝る：持続的AIエージェントのためのメモリ拡張ルーティング

a
a%が過去のやり取りとの意味的類似性を持つ一方で、各問い合わせは通常同じ計算コストで処理されます。本研究では、この冗長性は会話メモリによって活用でき、繰り返しをコスト負担から効率の利点へと転換できると主張します。そこで本研究では、軽量な8Bパラメータモデルが、取得した会話コンテキストを活用して、低コストな推論経路で全ての問い合わせに回答する、メモリ拡張推論フレームワークを提案します。追加の学習やラベル付きデータを一切用いずに、このアプローチは30.5
a
a%のF1を達成し、フルコンテキストの235Bモデルの性能の69
a
a%を回復しつつ、有効コストを96
a
a%削減します。注目すべき点として、メモリなしの235Bモデル（13.7
a
a% F1）は、単体の8Bモデル（15.4
a
a% F1）よりも低性能であり、ユーザー固有の問い合わせでは、関連知識へのアクセスがモデル規模よりも重要であることが示唆されます。さらに、ルーティングと信頼度の役割を分析します。実運用における信頼度閾値では、ルーティングだけで既に96
a
a%の問い合わせを小型モデルへ振り分けられますが、自信過剰な幻覚により精度は低く（13.0
a
a% F1）なります。メモリはルーティングの意思決定を大きくは変えず、代わりに、取得したユーザー固有情報に基づいて応答を根拠付けることで正確性を改善します。会話メモリが時間とともに蓄積されるにつれて、繰り返し出現する話題のカバレッジが増え、性能差はさらに縮小します。本研究では152件のLoCoMo質問（Qwen3-8B/235B）と、500件のLongMemEval質問を評価します。ハイブリッド検索（BM25 + cosine類似度）を取り入れることで、さらに+7.7 F1の改善が得られ、検索品質がエンドツーエンドのシステム性能を直接押し上げることを示しています。総合すると、本結果は、永続的なAIエージェントにおける正確性と効率の主要な駆動要因が、モデルサイズではなくメモリであることを明確に示しています。