後期インタラクション動力学に関する作業メモ：後期インタラクションモデルの標的化された振る舞いを分析する

要旨: Late Interactionモデルは強力な検索性能を示すものの、その基盤となるダイナミクスの多くはいまだ十分に調査されておらず、性能のボトルネックが見えにくくなる可能性があります。本研究では、Late Interaction検索における2つの話題に焦点を当てます。すなわち、多ベクトルスコアリングを用いる際に生じる長さバイアスと、MaxSim演算子によって最高スコアとしてプールされるもの以外の類似度分布です。NanoBEIRベンチマーク上での最先端モデルに対して、これらの振る舞いを分析します。その結果、因果的なLate Interactionモデルにおける理論的な長さバイアスは実際にも成立している一方で、双方向モデルでも極端な場合にはそれによって影響を受けうることが分かります。また、トップ1の文書トークンを超えては有意な類似度の傾向が存在しないことを確認しており、MaxSim演算子がトークンレベルの類似度スコアを効率的に活用していることを検証します。