悪魔は勾配の絡み合いに宿る：堅牢な一般化カテゴリ発見のためのエネルギー認識型グラディエント・コーディネータ

arXiv cs.LG / 2026/4/17

📰 ニュースIdeas & Deep AnalysisModels & Research

共有:

要点

本論文は、一般化カテゴリ発見（GCD）における「勾配の絡み合い（gradient entanglement）」を主要な最適化課題として特定し、既知クラスの判別力を弱めるだけでなく、既知と未知カテゴリの学習表現サブスペースの重なりも増やすことを示します。
エネルギー認識型グラディエント・コーディネータ（EAGC）を提案し、ラベル付き（教師あり）とラベルなし（教師なし）での最適化の相互作用を、勾配レベルで明示的に制御する“プラグアンドプレイ”モジュールとして設計しています。
EAGCは2つの要素で構成され、Anchor-based Gradient Alignment（AGA）によりラベル付きサンプルの勾配方向を参照モデルに揃えて干渉から既知クラスの識別構造を保ち、Energy-aware Elastic Projection（EEP）でラベルなし勾配を既知クラスのサブスペースの補空間へソフトに射影します。
さらにEEPは、既知サブスペースとの整合度に応じてエネルギーに基づく係数をサンプルごとに適応的に計算し、サブスペースの重なりを抑えつつ、既知に属する可能性が高いラベルなしサンプルを過度に抑制しないようにします。
実験では、EAGCが複数の既存GCD手法を一貫して改善し、新たな最先端（SOTA）結果を達成したと報告されており、コードも公開されています。

要旨: 一般化カテゴリ発見（GCD）は、ラベル付きデータを活用して、既知クラスまたは未知クラスのいずれかに属する未ラベルのサンプルを分類する。これまでの多くの手法は、教師ありおよび教師なしの目的を共同で最適化し、有望な結果を達成してきた。しかし、内在する最適化干渉が依然として、さらなる改善能力を制限している。定量分析を通じて、主要な問題、すなわち勾配の絡み合い（gradient entanglement）を特定する。これは、1) 教師ありの勾配を歪め、既知クラス間の判別性を弱め、かつ2) 既知クラスと新規クラスの間で表現の部分空間が重なり合うことを引き起こし、新規カテゴリの識別可能性を低下させる。この問題に対処するために、我々はエネルギー認識勾配コーディネータ（EAGC）を提案する。これは、最適化プロセスを明示的に制御する、プラグ・アンド・プレイの勾配レベル・モジュールである。EAGC は2つの構成要素からなる：アンカーに基づく勾配整合（AGA）と、エネルギー認識の弾性射影（EEP）。AGA は参照モデルを導入し、ラベル付きサンプルの勾配方向をアンカーすることで、未ラベル勾配の干渉に対して既知クラスの識別的な構造を保持する。EEP は、未ラベル勾配を既知クラス部分空間の補集合へソフトに射影し、さらにエネルギーベースの係数を導出して、既知部分空間との整合度に応じて各未ラベルサンプルに対する射影のスケールを適応的に調整する。これにより、既知クラスに属する可能性が高い未ラベルサンプルを抑制することなく、部分空間の重なりを低減する。実験の結果、EAGC は既存の手法を一貫して向上させ、最新の最先端結果を確立することが示される。コードは https://haiyangzheng.github.io/EAGC で利用可能。