「Layer su Layer」：BERTの系統におけるイタリア語NPN（名詞-前置詞-名詞）構文の特定と曖昧性の解消

要約: 解釈可能性に関する研究は、事前学習済み言語モデル（PLM）を評価すること、特に文脈依存埋め込みを明示的な言語理論に照らして、どのような言語情報をそれらが符号化しているのかを判定することの重要性を浮き彫りにしてきました。本研究は、イタリア語のNPN（名詞-前置詞-名詞）構文的ファミリーに焦点を当て、先行する実験設計の背後にあるいくつかの理論的・方法論的な前提に挑戦するとともに、この種の研究を、これまで十分に調査されてこなかった言語へと拡張します。文脈ベクトル表現はBERTから抽出され、入力として層ごとのプロービング分類器に用いられます。これにより、モデル内部の各層にわたって符号化されている情報を体系的に評価します。その結果、構文の形式と意味が文脈埋め込みにどの程度反映されているかが明らかになり、構文構築主義の理論とニューラル言語モデリングの対話に対して実証的な証拠を提供します