手書きルールなしでSLOGにおける構造的汎化を実現する方法

要旨: 意味解析における構造的汎化には、学習した合成（compositional）規則を、新しい構造の組合せに適用できるシステムが必要です。既存手法は、手書きの代数的規則（AM-Parser）に依存するか、あるいは構造的に汎化できない（Transformerベースのモデル）かのいずれかです。本稿では、手書きの合成規則を一切必要としない代替案を提示します。これは、離散的なボトルネックを備えたニューラル・セルラ・オートマトン（NCA）に基づくもので、合成規則はすべて、局所的な反復を通じてデータから学習されます。SLOGベンチマークにおいて、本システムは17の構造的汎化カテゴリのうち11カテゴリで型まで完全に一致（type-exact match）し、AM-Parserが0〜74%のスコアしか出せない3つのカテゴリを含みます。さらに、10個のシードに対する全体の標準偏差は0.2であり、AM-Parserの4.3に比べて大幅に小さいです。分析の結果、5,539件の失敗事例はいずれも、まったく異なる2つのメカニズムに帰着することが分かりました。具体的には、wh-extractionの文脈（context）と、動詞タイプが縮減されたものの新しい組合せ、ならびに修飾語が動詞の主語側に現れるケースです。CCGの構造的特徴ごとに結果を分解すると、各サブパターンはすべてのインスタンスで成功するか、すべてのインスタンスで失敗します。中間的なスコア（例: 41.4%）は、部分的な汎化ではなく、構造的に異なるCCGパターンの混合です。すべての失敗は、学習時に存在しない方向付けられた操作に対応し、すべての成功は、すでに学習範囲に含まれていた操作に対応します。