英語だけでは不十分：LLMのポストトレーニングにおける多言語性の役割を体系的に探る

Abstract

大規模言語モデルの多言語への広範な展開が進んでいるにもかかわらず、事後学習パイプラインは依然として主に英語中心であり、その結果として言語間の性能格差が生じています。本研究では、数学的推論とAPI呼び出しタスクにまたがる並列に翻訳された多言語データ混合物を用いた220件の教師ありファインチューニング実行に基づき、学習言語のカバレッジ、モデル規模、タスク領域の相互作用を体系的かつ制御された形で調査します。対象モデルは最大80億パラメータです。その結果、事後学習中に言語カバレッジを増やすことは、タスクおよびモデル規模の両方にわたって概ね有益であることが分かりました。特に低資源言語が最も恩恵を受け、高資源言語は低下するのではなく頭打ちになります。さらに、最小限の多言語性でも効果があります。単一の非英語言語を取り入れることで、英語の性能とクロスリンガルな汎化の両方が改善し、そのため英語のみの事後学習は概ね最適ではないことが明らかになりました。加えて、十分な言語多様性がある場合、ゼロショットのクロスリンガル転移は、低多様性設定における直接的な言語包含の効果に匹敵、あるいはそれを上回り得るものの、類型論的に遠い低資源言語に対する伸びは限定的であることが分かりました。