LLMに対する文脈依存の制御を学習・強制する

Abstract

文脈に応じた制約によって大規模言語モデル（LLM）の出力を制御することは、生成妥当性を保証する点での文脈自由文法（CFG）の限界を克服するための有望なアプローチとして注目されている。しかし、そのような制約は通常、手動による指定を必要とします――これは専門的な知識を要するため、大きな障壁となります。そこで本研究では、LLMとのやり取りから二段階プロセスによって文脈に応じた制約を自動的に学習する枠組みを提案します。具体的には、制約学習のために多様な出力を収集するための統語的探索と、その後、生成時に学習した規則を適用して強制するための制約活用です。実験の結果、提案手法により、たとえ小規模なLLM（10億パラメータ）であっても、完全な制約順守を伴って学習し生成できることが示されました。さらに、大規模な対応モデルや最先端の推論モデルを上回ります。本研究は、文脈に応じた文法の学習をLLM生成へ初めて統合するものであり、手動による指定を不要にしつつ、生成の妥当性を維持します。