過剰仮説誘導なしの模範（エクセンプラ）検索：初期の語彙学習における分布的系列学習の限界
arXiv cs.CL / 2026/4/8
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- 本研究は、自己回帰型トランスフォーマ言語モデルが、形状がカテゴリーを定義する特徴であるという子どもらしい「過剰仮説（overhypothesis）」を学習できるかどうかを検討するものであり、代替説明を制御した合成コーパスを用いています。
- パラメータ数が3.4M〜25.6Mのモデルで、事前登録済みの120回の実験実行にわたって、システムは大規模なwugテストバッテリーにおける一次の模範（エクセンプラ）検索では完全に達しましたが、新規名詞への二次的な一般化は達成できず、成績は偶然レベルのままでした。
- 同値性テストおよび特徴スワップの診断のいずれも、モデルの挙動が、名詞→領域→特徴の推論に類する構造化された抽象化ではなく、枠組み（フレーム）から特徴へのテンプレート照合に起因することを支持しています。
- 著者らは、分布的系列学習それ自体には、初期の語彙学習に必要な発達規模のメカニズムに対して過度な一般化を扱ううえで、明確な限界があると結論づけています。
