モンテカルロ木探索による多属性制御可能要約のための適応的計画

Abstract

制御可能な要約は、一般的な出力を超えて、指定された属性によって導かれる人間に整合した要約へと進みます。実際には、属性間の相互依存性により、言語モデルが相関した制約を一貫して満たすことが難しくなります。さらに、従来のアプローチでは、多くの場合、属性ごとのファインチューニングが必要であり、多様な要約属性にまたがる柔軟性が制限されます。本論文では、多属性の制御可能要約のための適応的計画（PACO）を提案します。これはトレーニング不要の枠組みであり、タスクを、カスタマイズしたモンテカルロ木探索（MCTS）によって逐次的な属性制御の順序を計画する問題として捉え直します。PACOでは、ノードは要約を表し、アクションは単一属性の調整に対応します。これにより、さらなる制御が必要な属性のみを段階的に洗練できます。この戦略は最適な制御順序を適応的に発見し、最終的にすべての制約を効果的に満たす要約を生成します。多様な領域とモデルにわたる大規模な実験により、PACOが堅牢な多属性制御性を達成し、LLMベースの自己計画モデルおよびファインチューニング済みのベースラインの両方を上回ることを示します。特筆すべきことに、Llama-3.2-1BでのPACOは、はるかに大きなLlama-3.3-70Bベースラインと同等の制御性を競り合います。さらに大規模なモデルでは、PACOはより優れた制御性能を実現し、すべての競合を上回ります。