Brain Scoreは言語の共通特性を追跡する：多様な自然言語と構造化シーケンスの証拠

Abstract

ニューラルネットワークを用いた言語モデル（LM）に関する最近のブレークスルーにより、次の疑問が提起された。すなわち、これらのモデルの処理は、人間の言語処理にどの程度似ているのか？ いわゆるBrain Score（BS）と呼ばれる枠組みによる結果――LMの活性から読字中のfMRI活性を予測する――が、高い類似性を主張するために用いられてきた。こうした類似性を理解するために、我々は、さまざまな種類の入力データでLMを学習し、それらをBSで評価する実験を行う。その結果、多くの異なる言語系統に属するさまざまな自然言語で学習されたモデルは、非常に類似したBS性能を示す。さらに、他の構造化データ――ヒトのゲノム、Python、純粋な階層構造（入れ子になった括弧）――で学習されたLMも、かなり良好に機能し、場合によっては自然言語にかなり近い。これらの発見は、BSが自然言語間に共通する構造を抽出する言語モデルの能力を際立たせ得ることを示唆するが、一方で、その指標は、BSスコアが高いという事実だけから人間らしい処理を推論できるほどには十分に感度が高くない可能性がある。