混雑したB空間：LoRAマージにおける共有方向のキャリブレーション

要旨: 別々に学習したLoRAアダプタをマージすることは、共同のマルチタスク学習の実用的な代替手段ですが、多くの場合性能を損ないます。既存の手法は通常、LoRAの更新 Delta W = BA を単一の対象として扱い、2つのLoRA行列を区別しません。本研究では、LoRAマージにおける干渉の主な原因が出力側の行列 B にあることを示します。タスクをまたいで B は、共有された少数の方向を繰り返し用いますが、A ははるかにタスク固有です。その結果、マージされたアダプタがこれらの共有方向を過度に強調し、タスク固有の情報が失われます。そこで本研究では、データ不要の手法である Pico（Pre-merge interference calibration in output-space）を提案します。これは、マージの前に B を較正し、過剰に共有されている方向をダウンサイジングしたのち、マージされた更新を再スケーリングします。Pico は、Task Arithmetic、TIES、TSV-M など既存のマージ手法に直接組み込めます。数学、コーディング、金融、医療の各領域にわたる8つの異なるベンチマークで、Pico は対応するベース手法に対して平均精度を 3.4-8.3 ポイント改善し、全体として最良の平均性能を達成します。さらに Pico により、マージされたアダプタが、全タスクデータで学習したLoRAを上回ることも可能になります。これらの結果は、2つのLoRA行列を別々に扱うときにLoRAマージがよりうまく機能することを示しています。