人間の活動認識における継続学習のためのゲート付き適応
arXiv cs.AI / 2026/3/12
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- デバイス上の HAR に対してパラメータ効率の継続学習アプローチを提案します。凍結済みの事前学習表現をチャネルごとにゲーティング変調することで新しい被験者へ適応しつつ、既存の知識を保持します。
- 適応は既存の特徴の対角スケーリングに限定され、特徴生成ではなく特徴選択となるため、事前学習表現の幾何を保持します。
- 著者らは、ゲーティングが有界な対角演算子として機能し、制約のない線形変換と比較して表現の漂移を抑制するという理論的分析を提供します。
- PAMAP2データセットの8名の連続被験者を対象とした経験的結果では、忘却が39.7%から16.2%へ低下し、最終精度が56.7%から77.7%へ向上しました。パラメータ数は全体の2%未満で訓練され、リプレイバッファやタスク特異的正則化なしで達成されました。
ウェアラブルセンサーは、IoTエコシステムにおいて、リモート健康管理、高齢者ケア、スマートホームオートメーションなどのアプリケーションをますます支援しており、いずれも堅牢な人間の活動認識(HAR)に依存している。継続学習システムは、柔軟性(新しいタスクの学習)と安定性(既存知識の保持)をバランスさせる必要があるが、AIモデルはしばしば壊滅的忘却を示し、新しいタスクの学習が以前のタスクの性能を低下させる。これは特にドメイン増分HARにおいて顕著であり、デバイス上のモデルはクラウドへ機密データを送信せずに、異なる動作パターンを持つ新しい被験者へ適応しつつ、以前の被験者に対する精度を維持する必要がある。
我々は、凍結済みの事前学習表現のチャネルごとのゲーティング変調に基づく、パラメータ効率の高い継続学習フレームワークを提案する。
我々の重要な洞察は、適応は特徴生成ではなく特徴選択を通じて機能すべきだということであり、学習された変換を既存の特徴の対角スケーリングに制限することにより、事前学習表現の幾何を保存しつつ被験者固有の変調を可能にする。
ゲーティングは有界な対角演算子を実装し、無制約の線形変換と比較して表現の漂移を抑制する、という理論的分析を提供する。
実証的には、バックボーンを凍結することで忘却を大幅に減らし、軽量なゲートが失われた適応能力を回復させ、同時に安定性と可塑性を達成する。
PAMAP2データセットで8名の連続被験者を対象とした場合、我々のアプローチは忘却を39.7%から16.2%に低下させ、最終精度を56.7%から77.7%に向上させ、パラメータ数を2%未満で訓練可能である。
我々の手法は、リプレイバッファやタスク特有の正則化なしで、標準的な継続学習のベースラインと同等かそれ以上の性能を発揮し、分布シフト下において構造化された対角演算子が効果的かつ効率的であることを確認している。




