傾向（Propensity）推論：環境要因がLLMの挙動に与える影響

Abstract

誤整列したAIシステムによって生じうる制御喪失リスクに動機づけられ、言語モデルが不正当な行動を取る傾向（propensity）を測定するための手法を開発し、適用する。方法論として3つの改善に貢献する。すなわち、環境要因の変化が行動に与える影響を分析すること、ベイズ一般化線形モデルによって効果量を定量化すること、そして循環分析に対して明示的な対策を講じること。12の環境要因（本質的に戦略的なもの6つ、非戦略的なもの6つ）の効果を測定するためにこの方法論を適用し、それにより、行動が環境の戦略的側面によってどの程度説明されるか、という誤整列によるリスクに関連する問いに答える。23の言語モデルと11の評価環境にわたって、行動を説明するうえで戦略的要因と非戦略的要因の寄与がほぼ等しいことを見出し、能力が向上しても戦略的要因がよりまたはより少なく影響を及ぼすようにはならないことを確認し、目標の対立に対する感度が高まる傾向についてのいくつかの証拠を見出す。最後に、今後の傾向（propensity）研究における重要な方向性として、AIの意思決定に関する理論的枠組みおよび認知モデルを、実証的に検証可能な形へと発展させることを強調する。