Residual SODAP: 残差自己組織化ドメイン適応型プロンプティングと構造的知識保持による継続学習
arXiv cs.AI / 2026/3/16
📰 ニュースModels & Research
要点
- ドメイン増分継続学習における崩壊的忘却を標的とし、Residual SODAPを導入して、プロンプトを介して表現を共同適応させつつ、分類器レベルの知識を保持する。
- アルファ-エンタックスのスパースプロンプト選択、残差集約、偽特徴リプレイを用いたデータフリーディスティレーション、プロンプト使用に基づくドリフト検出、そして不確実性を考慮したマルチロスバランシングを組み合わせ、ドメインシフト下での頑健性を向上させる。
- タスクIDや追加データの保存を伴わない3つのドメイン増分ベンチマークにおいて、AvgACC/AvgFの最先端スコアを達成: 0.850/0.047 (DR)、0.760/0.031 (Skin Cancer)、および 0.995/0.003 (CORe50)。
- 保存データや明示的なタスクIDを必要とせず、データが乏しい設定での継続学習を実現するために設計されている。
関連記事
[R] アイデンティティ・アンカーと権限階層の組み合わせが abliterated LLMs で 100% の拒否を実現 — システムプロンプトのみ、ファインチューニングなし
Reddit r/MachineLearning
[P] 自宅PC上の Vibecoded: Karpathyに触発されたAI支援の研究ループを用いて、約2700 Elo のブラウザでプレイ可能なニューラルチェスエンジンを構築
Reddit r/MachineLearning
DuckLLM 1.0 — 私の初めてのモデルを紹介します!
Reddit r/LocalLLaMA
FastFlowLMがLinux対応を追加したため、同社がサポートする全モデルをベンチマークしました。以下が結果です。
Reddit r/LocalLLaMA
高次元生存分析におけるネストしたモデルと非ネストモデルを比較する際に用いる評価指標は何ですか [D]
Reddit r/MachineLearning