MambaCSP：ハイブリッド注意機構の状態空間モデルによるハードウェア効率の高いチャネル状態予測

要旨: 近年の研究により、注意機構ベースのトランスフォーマーおよび大規模言語モデル（LLM）アーキテクチャは、チャネル状態情報（CSI）系列にまたがる長期の時間的依存関係を捉えることで、高いチャネル状態予測（CSP）性能を達成できることが示されてきました。しかし、これらのモデルは系列長に対して二次的にスケールするため、計算コスト、メモリ消費、推論遅延が大きくなり、リアルタイムかつリソースに制約のある無線環境での適用を制限しています。本論文では、選択的状態空間モデル（SSM）がCSI予測のためのハードウェア効率の高い代替となり得るかを検討します。我々は、LLMベースの予測バックボーンを線形時間のMambaモデルに置き換えるハイブリッド注意SSMアーキテクチャであるMambaCSPを提案します。純粋なSSMが抱えるローカルのみの依存関係を克服するために、軽量なパッチミキサー注意レイヤーを導入し、クロストークンの注意を定期的に注入することで、長文脈のCSI予測を支援します。大規模なMISO-OFDMシミュレーションの結果、MambaCSPはLLMベースの手法に比べて予測精度を9〜12%向上させる一方で、スループットを最大3.0倍、高速な推論を2.9倍、VRAM使用量を2.6倍削減できることが示されました。これらの結果は、ハイブリッド状態空間アーキテクチャが、将来の無線ネットワークにおけるスケーラブルかつハードウェア効率の高いAIネイティブCSI予測に向けた有望な方向性を提供することを示しています。