目標指向の代替案にもとづくサプライズ最小化が対話における発話選択を予測する

Abstract

発話産出を、情報理論的なコスト概念を用いた、文脈上の代替案に対する確率的かつコスト感受的な選択としてモデル化します。我々は、固定された伝達意図を実現する目標指向的な代替案と、文脈上のもっともらしさだけで定義される目標非依存的な代替案を区別します。これにより、異なるコスト指標に関する話し手および聞き手志向の解釈を導出できるようになります。我々は言語モデルを用いて、両タイプの代替案集合を生成する手順を提示します。決定論的および確率的なコスト最小化の両方のもとで、オープンエンドな対話における産出の選択を分析した結果、目標指向的な代替案に対するサプライズ（驚き）最小化が、両分析において最も強い予測的説明を与えることが分かりました。一方で、一様な情報密度や長さに基づくコストは、条件をまたいでより弱く、予測力が一貫しません。より広く言えば、本研究は、LM生成の代替案を条件とした代替案条件付き最適化が、自然な言語産出における話し手と聞き手の圧力を研究するための原理的な枠組みを提供することを示唆しています。