学習における連想記憶のためのスペクトル・オプティマイザの鋭い容量スケーリング

arXiv cs.LG / 2026/3/30

📰 ニュース

共有:

要点

本論文は、（とりわけMuonに代表される）スペクトル・オプティマイザが、大規模学習においてSGDのような手法よりも優れる理由を、扱いやすい線形の連想記憶設定における挙動の分析を通して明らかにする。

※当サイトはアフィリエイト広告を利用しています

AI時代の仕事術。Notta搭載で会議の議事録を自動生成するスマートイヤホン。

世界100万人が愛用。AIで文字起こし・要約を自動化するボイスレコーダー。

AIで画像を高画質化。写真・イラストを簡単にアップスケール。