重み付き和を超える：頑健な人工ニューロンのための学習可能な非線形集約関数
arXiv cs.AI / 2026/3/23
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- 本論文は、固定された線形集約が人工ニューロンの設計における制約であると主張し、ノイズの多い入力に対する頑健性を高めるための学習可能な非線形集約機構（F-Meanとガウスサポート）を提案する。
- 線形と非線形の集約の間を補間する学習可能なブレンディングパラメータを介して、訓練中の最適化安定性を維持するハイブリッドニューロンを導入する。
- CIFAR-10 およびノイズ付き CIFAR-10 の変種を用いた MLP と CNN において、ハイブリッドはガウスノイズ下で頑健性を高め、3系統のハイブリッドはベースラインの0.890に対して最大で0.991の頑健性を達成した。
- 学習された集約パラメータは、サブリニアな集約（p が約0.43〜0.50）と高い新奇性の活用度（α が約0.69〜0.79）へ収束し、ノイズ耐性を備えるネットワークにおけるニューロンレベルの集約が意味のある設計次元であることを示唆している。
