ニューラルに解釈される言語による勾配ベースのプログラム合成

要旨: プログラム帰納における中核的な課題として、長い間、記号的アプローチとニューラルアプローチの間のトレードオフが問題となってきました。記号的手法は合成的な汎化とデータ効率に優れますが、ドメイン特化言語（DSL）のような形式によって、そのスケーラビリティが制約されます。これらの形式は作成に労力を要し、新しい領域へ移行できない可能性もあります。対照的に、ニューラルネットワークはデータから柔軟に学習できますが、合成的な設定や分布外設定では汎化がうまくいかない傾向があります。私たちは、ニューラル言語インタプリタ（Neural Language Interpreter; NLI）と呼ばれる、潜在適応ネットワーク（Latent Adaptation Network）アーキテクチャの一例によって、この隔たりを橋渡しします。NLIは、自身の離散的で記号的であるかのようなプログラミング言語をエンドツーエンドで学習します。NLIは自律的に基本操作の語彙を発見し、これらの基本操作の可変長系列を解釈するための、新規な微分可能ニューラル実行器（differentiable neural executor）を用います。これにより、NLIは一定数の計算ステップに縛られないプログラムを表現でき、学習時に見られたものよりも複雑な問題を解くことが可能になります。これらの離散的な合成的プログラム構造を、勾配ベース最適化に適した形にするために、Gumbel-Softmaxの緩和を採用し、モデル全体をエンドツーエンドで学習できるようにします。重要なのは、この同じ微分可能性によって強力なテスト時適応が可能になることです。推論では、NLIのプログラム帰納器が初期のプログラム推定を与えます。次に、この推定はニューラル実行器を通じた勾配降下によって洗練され、与えられたデータを最もよく説明するニューラルプログラムを効率的に探索できます。私たちは、NLIが、組合せ的な汎化と、未知のタスクへの迅速な適応を必要とするタスクにおいて、in-context learning、テスト時学習、連続潜在プログラムネットワークのいずれよりも優れていることを示します。これらの結果は、離散言語の合成性と、ニューラルネットワークの勾配ベース探索およびエンドツーエンド学習を組み合わせたモデルに向けた新しい道筋を確立するものです。