Fast-dVLA: 離散拡散VLAをリアルタイム性能へ加速する

要旨: 本論文は、事前学習済みのVLAモデルが標準的な教師ありファインチューニング（SFT）において性能を効果的に向上させたり、適応コストを低減したりできないことが多いという課題に対処するための新しいアプローチを提案する。補助的な学習目的を伴ういくつかの高度なファインチューニング手法は、性能の向上や収束ステップ数の削減に有効であることができる。だが、それらは通常、補助タスクによる追加損失のために大きな計算オーバーヘッドを招く。本研究では、補助学習によって得られる強化された能力と、標準SFTの単純さを同時に実現するために、パラメータ空間内で補助タスク学習の2つの目的、すなわち一般的能力の強化とタスク固有の行動分布への適合を分離する。 この目標を達成するために、2つの異なる学習戦略を用いて、小規模なタスク集合でモデルを収束するように学習するだけでよい。得られたモデルパラメータの差は、補助タスクが提供する能力ベクトルとして解釈できる。これらのベクトルを事前学習済みパラメータと統合して、能力強化されたメタモデルを形成する。さらに、標準SFTに軽量な直交正則化損失を追加すると、統合されたモデルは、計算オーバーヘッドを削減しつつ、補助的にファインチューニングしたベースラインと同等の性能を達成する。実験結果は、本アプローチが多様なロボットタスクに対して非常に有効であることを示している。プロジェクトページ: https://chris1220313648.github.io/Fast-dVLA/