要旨: 超高速のオンライン学習は、量子コンピューティングや核融合のための制御などの高周波システムにとって不可欠であり、適応はサブマイクロ秒の時間スケールで行われなければならない。これらの要求を満たすには、厳しいメモリ制約の下で、低レイテンシかつ固定精度の計算が必要であり、この領域では従来の多層パーセプトロン（MLP）はどちらも非効率で数値的に不安定である。我々は、これらの制約に適合するコルモゴロフ-アルノルド・ネットワーク（KAN）の主要な特性を特定する。具体的には、次のことを示す：（i）Bスプラインの局所性を活用するKANの更新は疎であり、オンチップ資源のスケーリングを優れたものにできる、そして（ii）KANは固定小数点量子化に対して本質的に頑健である。オンチップ計算の代表的なプラットフォームであるフィールドプログラマブル・ゲートアレイ（FPGA）上で固定小数点のオンライン学習を実装することで、KANに基づくオンライン学習器が、低レイテンシかつ資源制約のある幅広いタスクにおいて、MLPよりも大幅に効率的で表現力が高いことを実証する。我々の知る限り、本研究はサブマイクロ秒のレイテンシにおける、モデルフリーのオンライン学習を初めて示すものである。
スプライン近接性によるコルモゴロフ-アルノー・ネットワークの超高速オンチップオンライン学習
arXiv stat.ML / 2026/5/5
📰 ニュースDeveloper Stack & InfrastructureSignals & Early TrendsModels & Research
要点
- この論文は、量子コンピューティングや核融合の制御などの高周波システムでサブマイクロ秒レベルのオンライン適応を実現するには、低遅延・固定小数点の計算と厳しいメモリ制約が必要だと主張しています。
- 著者らは、Bスプラインの近接性により更新が疎になること、そして固定小数点量子化に対してKANが本質的に頑健であることを根拠に、KANが従来のMLPより適していると示します。
- FPGA上で固定小数点のオンライン学習を実装し、低遅延かつ計算資源が限られたタスクにおいてKANベースの学習器がMLPより効率的かつ表現力が高いことを示したと述べています。
- モデルフリーのオンライン学習をサブマイクロ秒レイテンシで動作させた初の実証だと主張しています。
- 全体として、スプライン近接性というアルゴリズム構造と、固定小数点に対する数値的な頑健性を組み合わせることでオンチップ実装の実現性を狙っています。
