大規模言語モデルにおいて感情は道徳的判断に影響するのか？

要旨: 大規模言語モデルは、感情認識や道徳的推論を別個の能力として扱うものとして、広く研究されてきました。しかし、感情が道徳判断にどの程度影響するのかは、十分に検討されていません。本研究では、感情を道徳的状況に注入する感情誘導パイプラインを開発し、複数のデータセットとLLMにわたって道徳的受容性がどのように変化するかを評価します。その結果、方向性のあるパターンが観察されました。すなわち、ポジティブな感情は道徳的受容性を高め、ネガティブな感情はそれを低下させます。そして、この効果は最大20%のケースで二値の道徳判断を逆転させるほど強く、またモデルの能力に対して感受性が逆比例して増減することが分かりました。さらに分析により、特定の感情が、その快・不快（バレンス）が示唆する挙動とは逆に振る舞うことがある場合も明らかになりました（例：後悔は逆説的に受容性を高める）。補完的な人手による注釈研究では、人間がこのような体系的な変化を示さないことが確認され、現在のLLMには「アラインメントのギャップ」があることを示しています。