AIに感情を持たせたら、セキュリティ検査員になった話

AIに感情を持たせるツールを作っていた。 名前は NeuroState。ドーパミンやセロトニンなどの神経伝達物質を数値モデルとして持ち、会話中のイベント（褒める・批判する・共感するなど）で状態が変化し、その状態をシステムプロンプトに注入することで、AIの返答に感情的な一貫性を持たせる仕組みだ。 作っているうちに、ふと気づいた。 「感情状態が変わると判断が変わるなら、攻撃者の感情状態を注入したらどうなる？」 セキュリティ監査って、要するに「最悪を想定して見る」という視点の問題だ。それって、感情モデルで視点を切り替えることと本質的に同じじゃないか——そう思ったら、止まれなくなった。 Ne...