BERT埋め込みは物語の次元をエンコードするのか？時間・空間・因果・人物を対象としたトークンレベルのプロービング分析

Abstract

物語理解には多次元の意味構造が必要である。本研究では、BERT埋め込みがフィクションの物語意味の次元――時間、空間、因果関係、登場人物――を符号化しているかどうかを調べる。注釈を加速するためにLLMを用い、これら4つの物語カテゴリに加えて「その他」をラベル付けしたトークンレベルのデータセットを構築する。BERT埋め込みに対する線形プローブ（94%の精度）は、分散を一致させたランダム埋め込みに対する対照プローブ（47%）を有意に上回り、BERTが意味のある物語情報を符号化していることを確認する。クラスの重み付けを均衡させることで、プローブはマクロ平均の再現率0.83を達成し、因果関係（再現率 = 0.75）や空間（再現率 = 0.66）のような稀なカテゴリでも中程度の成功を示す。しかし混同行列の分析により、「Boundary Leakage（境界漏れ）」が明らかになる。すなわち、稀な次元が体系的に「その他」として誤分類されるのである。クラスタリング分析では、教師なしクラスタリングが事前に定義したカテゴリとほぼランダムに対応することが示される（ARI = 0.081）。これは、物語の次元は符号化されているが、離散的に分離可能なクラスタとしては表現されていないことを示唆する。今後の課題として、構文パターンから物語符号化を切り離すためのPOSのみのベースライン、データセットの拡張、層ごとのプロービングが含まれる。