人間らしさへの抵抗：センシティブな文脈におけるAIの倫理的フロントエンド設計上の選択

要旨: AIにおける倫理的議論は、主としてデータ・ガバナンス、モデルの学習、アルゴリズムによる意思決定などのバックエンドの論点に焦点が当てられてきました。ユーザがAIシステムとどのようにやり取りするかに関わる、相互作用や表現に基づく要素といったフロントエンドの設計選択が持つ倫理的重要性には、これまであまり注目が集まっていません。このギャップは、自然言語処理（NLP）システムに基づく会話型ユーザインタフェース（CUI）にとって特に重要です。そこでは、対話ベースの相互作用、感情を帯びた言い回し、パーソナリティのモード、擬人化に関する比喩など、人間らしさを持たせる設計要素が、ますます一般的になりつつあります。本研究は、AIのフロントエンド設計における人間らしさの付与が、価値観に基づく選択であり、それがユーザのメンタルモデル、信頼の較正、行動上の反応に深く影響を与えると論じます。人とコンピュータの相互作用（HCI）、会話型AI、価値に配慮したデザインに関する研究を踏まえ、本研究では、インタフェースがどのようにユーザの期待を不一致に導き、誤った信頼を助長し、特に脆弱な文脈においてユーザの自律性を微妙に損なう中心的な役割を担いうるのかを検討します。この分析の土台として、性別に基づく暴力の被害者を支援する非営利組織であるChaynが開発した2つのAIシステムを取り上げます。Chaynは、被害者と相互作用する、または被害者に影響を与えるAIを構築する際、そのトラウマに配慮したデザイン原則を実装化することで、極めて慎重です。このChaynの事例研究は、倫理的配慮がインタフェース設計における原則に基づく抑制を動機づけ得ること、そして現代のAIプロダクトにおけるエンゲージメント重視の規範に挑戦しうることを示しています。私たちは、倫理的なフロントエンドAI設計は、システムのロジックにのみ埋め込まれるのではなく、相互作用の選択によって実行される一種の手続き的倫理であると主張します。