PA-Net: 長尾降水ナウキャストのための降水適応型混合専門家ネットワーク
arXiv cs.AI / 2026/3/17
📰 ニュースModels & Research
要点
- 本論文は、降水強度によって計算資源を明示的に制御する降水適応型TransformerフレームワークであるPA-Netを提案する。
- そのコアとなる降水適応型MoE（PA-MoE）は、局所の降水量の大きさに応じてトークンごとに活性化される専門家の数を動的にスケールし、豪雨の尾部により多くの容量を割り当てる。
- 巨大な文脈長を扱うために、畳み込みによる縮約を用いて時空間のアテンションを因数分解するデュアル軸圧縮潜在アテンション機構を特徴とする。
- 強度認識型の訓練プロトコルは、極端な降雨サンプルからの学習信号を段階的に増幅し、ERA5実験では特に大雨・暴雨域で性能向上を示した。
