感情がLLMとエージェントの行動を形作る仕組み：メカニズムに基づく研究

Abstract

感情は、人間の認知とパフォーマンスにおいて重要な役割を果たします。これに動機づけられ、本研究では、類似した感情シグナルが、大規模言語モデル（LLM）およびエージェントの挙動をどのように形作り得るのかを検討します。既存の感情を意識した研究は主に、感情を表層的なスタイル要因、または知覚対象として扱っており、そのメカニズム的役割—すなわちタスク処理における役割—を見落としています。この制約に対処するために、我々は、LLMおよびエージェントにおいて表現レベルでの直接的な介入を可能にする、解釈可能な感情ステアリング手法であるE-STEERを提案します。E-STEERは、隠れ状態に感情を構造化された制御可能な変数として埋め込みます。そしてそれにより、感情が客観的な推論、主観的な生成、安全性、ならびに複数ステップのエージェント挙動に与える影響を調べます。結果は、確立された心理学的理論と整合する、感情と行動の関係の非単調性を明らかにし、特定の感情がLLMの能力を高めるだけでなく、安全性も向上させ、そして複数ステップのエージェント挙動を体系的に形作ることを示しています。