良いインストラクション・チューニングデータとは何か？インコンテキスト・ラーニングの観点から

概要: 命令チューニングのデータセットには、しばしば大幅な冗長性と低品質なサンプルが含まれており、有効なデータ選択手法が必要になります。本研究では、重み付きインコンテキスト影響（wICI）に基づく命令データ選択の枠組みを提案します。これは、意味的に関連する同輩に対して、各候補例が命令追従の難しさをどれだけ効果的に低減するかを測定するものです。体系的な実験を通じて、3つの主要な問いに取り組みます。すなわち、インコンテキストの観点から見て効果的な命令チューニングデータとは何か、サンプルの難しさはインコンテキスト影響と相関するのか、そしてインコンテキスト影響は命令チューニングの有効性へどのように反映されるのか、です。複数のモデルとベンチマークにまたがる実験により、本手法がデータ予算が制約された条件下で既存のベースラインを一貫して上回ることを示すとともに、経験的にサンプルの難しさがインコンテキスト影響と負の相関を持つことも明らかにします。