より細かな引用は常により良いのか？ 帰属生成における粒度の再考

要旨: 引用の粒度――個々の文、段落、または文書のどれを引用するか――は、帰属生成（attributed generation）における重要な設計選択である。細粒度の引用はしばしば、人間による正確な検証に好まれるが、そのモデル性能への影響は十分に検討されていない。私たちは4つのモデル規模（8B-120B）を分析し、最良の粒度と比べて細粒度の引用を強制すると、帰属品質が16-276%低下することを示す。帰属品質は中間的な粒度（段落レベル）でピークになる、という一貫した性能パターンが観察された。私たちの分析は、細粒度（文レベル）の引用が、根拠を根拠に基づいて回答の主張へ帰属させるために必要な意味的依存関係を破壊する一方で、過度に粗い引用（複数段落）は注意をそらすノイズを導入することを示唆している。重要な点として、この性能差の大きさはモデル規模に対して単調ではない形で変化する。すなわち、細粒度の制約はより大きなモデルに対して不釣り合いに大きなペナルティを課しており、原子的な引用単位が、これらのモデルが得意とする複数文にまたがる情報合成を阻害していることが示唆される。驚くべきことに、引用に最適な粒度を選ぶことで、帰属品質が大幅に向上し、しかも回答の正しさは維持されるか、あるいは改善さえする。総じて、私たちの結果は、細粒度の引用によって人間による検証だけを最適化しようとすると、モデルの制約を無視することになり、帰属の忠実性と生成の信頼性の両方を損なうことを示している。その代わりに、効果的な帰属には、引用粒度をモデルの自然な意味的スコープに合わせることが必要である。