XAttnRes：医用画像セグメンテーションのためのクロスステージ・アテンション・リザビアル

Abstract

大規模言語モデル（LLMs）の分野では、最近、Attention Residuals により、これまでの全ての層出力に対する学習された選択的集約が、固定された残差接続よりも優れた性能を発揮し得ることが示されています。私たちは、エンコーダ段とデコーダ段の出力の両方を蓄積するグローバルな特徴履歴プールを維持する仕組みとして、Cross-Stage Attention Residuals（XAttnRes）を提案します。軽量な疑似クエリアテンションを通じて、各段は先行する全ての表現から選択的に集約します。LLMにおける同一次元の Transformer 層と、セグメンテーションネットワークにおけるマルチスケールのエンコーダ・デコーダ段の間にあるギャップを埋めるために、XAttnRes は、交差解像度の特徴を、無視できるオーバーヘッドで処理する空間アラインメントおよびチャネル射影の手順を導入します。既存のセグメンテーションネットワークに追加した場合、XAttnRes は4つのデータセットと3つの画像モダリティにわたって一貫して性能を向上させます。さらに、XAttnRes はスキップ接続がない場合でも単独で、ベースラインと同等の性能を達成しており、学習された集約が、従来あらかじめ決められた接続によって提供されていた段間の情報フローを回復できることを示唆しています。