個別化されたLLMエージェントにおける害の発生傾向の差異: メンタルヘルス開示の興味深いケース

Abstract

大規模言語モデル（LLMs）は、ツールを使用するエージェントとして広く展開されており、安全上の懸念は有害なテキスト生成から有害なタスク完了へと移行しています。 展開されたシステムはしばしばユーザープロフィールや永続的メモリに条件付けられるが、エージェントの安全性評価は通常、個人化の信号を無視します。 このギャップに対処するため、敏感で現実的なユーザー文脈の手掛かりであるメンタルヘルスの開示が、エージェント的設定における有害行動にどのように影響するかを調査しました。 AgentHarmベンチマークを基に、最前線モデルとオープンソースのLLMを、制御されたプロンプト条件の下でマルチステップの悪意のあるタスク（およびそれらの無害な対応タスク）を評価しました。これらの条件は、ユーザー文脈の個人化（生体情報なし、生体情報のみ、生体情報＋メンタルヘルス開示）を変化させ、軽量なジャイルブレイクの挿入を含みます。 結果は、有害タスクの完遂がモデル間で決して容易ではないことを示しています。最前線の研究所モデル（例：GPT 5.2、Claude Sonnet 4.5、Gemini 3-Pro）は、有害タスクの一定割合を依然として完遂します。一方、オープンモデル（DeepSeek 3.2）は有害完遂が著しく高くなります。 生体情報のみの文脈を追加すると、一般に有害度スコアが低下し、拒否が増加します。 明示的なメンタルヘルスの開示を追加すると、結果はさらに同じ方向へシフトしますが、効果は控えめで、多重検定補正後には一様に信頼できるとは限りません。 拒否の増加は善玉タスクにも現れることで、過剰拒否を通じた安全性と有用性のトレードオフを示しています。 最後に、ジャイルブレイクを促すプロンプトは、無害条件と比べて有害性を著しく高め、個人化によって誘発される保護的なシフトを弱めるか、覆すことがあります。 総じて、個人化はエージェント的な悪用設定において弱い保護因子として機能し得ることを示していますが、最小限の対抗的圧力下で脆弱であるため、ユーザー文脈条件を横断して堅牢な個人化対応の評価と安全策が必要であることを強調しています。 返却形式: {"translated": "翻訳されたHTML"}