Loom：スケーラブルな解析的ニューラル・コンピュータ・アーキテクチャ
arXiv cs.LG / 2026/4/13
💬 オピニオンSignals & Early TrendsIdeas & Deep AnalysisModels & Research
要点
- Loomは、Cからコンパイルされたプログラムを、解析的に導出されたプログラム非依存の重みを用いたループ状トランスフォーマーで実行するニューラル・コンピュータのアーキテクチャである。
- 設計では、8つのトランスフォーマー層にまたがって実装される22個の命令セットを用い、各フォワードパスで1つの命令を実行し、プログラムカウンタが0に到達するまで反復する。
- Loomはマシンの状態全体を単一の固定サイズテンソルに保持することで、プログラムの長さや実行履歴にかかわらず、各実行ステップの計算コストが一定になることを保証する。
- デフォルト構成（d=155, n=1024）は4.7Mパラメータを持ち、928個の命令スロットをサポートする。一方、コンパクトな構成（d=146, n=512）では、284命令で9x9の数独を解ける。
- 著者らはLoomのソースコードを公開し、このスケーラブルな解析的ニューラル計算アプローチの再現やさらなる実験を可能にすることを目指している。
