自動インストラクション改訂(AIR):LLMに対するタスク適応戦略の構造化された比較
arXiv cs.CL / 2026/4/13
💬 オピニオンSignals & Early TrendsIdeas & Deep AnalysisModels & Research
要点
- 本論文は、少数のタスク固有例のみを用いて下流タスクへLLMを適応させるためのルール誘導アプローチである、自動インストラクション改訂(AIR)を提案する。
- AIRを、プロンプト最適化、検索(リトリーバル)ベース手法、ファインチューニングといった他の適応戦略の中に位置づけ、それぞれが持つ能力(知識注入、構造化抽出、ラベルの付け替え、論理推論など)をターゲットとしたベンチマークで評価する。
- 5つのベンチマークにわたる結果から、単一の適応手法が常に最良であるとは限らないことが示される。AIRはラベル付け替え分類で最強、または準最強であり、KNNによる検索はクローズドブックQAで優位、ファインチューニングは構造化抽出および事象順序推論で最良となる。
- 著者らは、タスクの振る舞いがコンパクトで解釈可能なインストラクションルールとして表現できる場合にAIRが最も効果的であり、一方で検索やファインチューニングは、ソース固有の知識や、データセットの注釈パターンの一貫性を必要とするタスクにより適していると結論づける。




