NeuroPlastic:生物学的に着想を得た学習ダイナミクスのための可塑性(プラスティシティ)制御オプティマイザ

arXiv cs.LG / 2026/4/30

📰 ニュースIdeas & Deep AnalysisModels & Research

要点

  • この論文では、「NeuroPlastic」という新しい最適化アルゴリズムを提案し、勾配ベースの更新を多因子シナプス可塑性に着想を得た可塑性(プラスティシティ)風の適応的マルチシグナル・モジュレーション層で拡張します。
  • NeuroPlasticは、勾配・活動(activity)に似た・記憶(memory)に似た統計量を捉える相互作用する複数成分によって勾配を動的にスケーリングしつつ、軽量で標準的な深層学習の学習パイプラインと互換であることを目指しています。
  • 画像分類ベンチマークでは、勾配のみのアブレーションと比較して一貫した改善が見られ、Fashion-MNISTや低データ(縮小データ)条件で特に大きな効果が確認されます。
  • CIFAR-10でResNet-18を用いた転移実験では、NeuroPlasticは安定かつ競争力のある性能を示し、再チューニングなしでも維持されます。
  • 総じて、マルチシグナルな生物学的着想に基づくモジュレーションが、従来の勾配駆動最適化を補強し得ること、特に学習信号が限られている/ノイジーな状況で有望であることが示唆されます。