HyperFM：スペクトルのグルーピングを用いた効率的なハイパースペクトル・ファウンデーションモデル

概要: NASAのPACEミッションは、海洋色、エアロゾル、雲の比類のないハイパースペクトル観測を提供し、これらの構成要素がどのように相互作用し、地球の気候と大気の質に影響するのかについて新たな知見をもたらします。海洋色計測器（Ocean Color Instrument）は、数百に及ぶ細かく間隔をあけた波長帯域にわたって光を測定し、植物プランクトンの組成、エアロゾル特性、雲の微物理といった特徴を詳細に特徴づけることを可能にします。しかし、この規模のハイパースペクトルデータは巨大で複雑であり、ラベル付けも難しいため、専門的な処理・解析手法が必要です。コンピュータビジョンおよび自然言語処理を変革してきた既存の基盤モデルは、一般に標準的なRGB画像で学習されているため、PACEによって捉えられる連続的なスペクトル・シグネチャの解釈が困難です。近年、ハイパースペクトルの基盤モデルに関する進展も導入されてきましたが、これらは通常、雲がない観測で学習されているうえ、計測器間でスペクトルに不整合があるため、単一センサのデータセットにとどまることが多いです。さらに、既存のモデルはパラメータが多く、計算コストも高いため、スケーラビリティと運用環境での導入が制限されます。これらの課題に対処するために、我々はHyperFMを提案します。HyperFMは、グループ内およびグループ間のスペクトル注意（spectral attention）と、ハイブリッドなパラメータ分解を活用する、パラメータ効率の高いハイパースペクトルの基盤モデルです。これにより、計算コストを抑えつつ、スペクトル空間の関係性をより適切に捉えます。HyperFMは、4つのベンチマークとなる下流の大気雲物性推定タスクにおいて、既存のハイパースペクトル基盤モデルおよびタスク固有の最先端手法に対して、安定した性能向上を示します。さらなる研究を支援するために、PACEミッションからの大規模ハイパースペクトルデータセットであるHyperFM250Kも追加で公開します。HyperFM250Kには、晴天（clear）シーンと雲のある（cloudy）シーンの両方が含まれます。