AI Navigate

自分に正しいと感じたことに従い、言われたことに従わなかった— AIを介した対話による自律性・コーチング・偏見の認識

arXiv cs.AI / 2026/3/13

💬 オピニオンIdeas & Deep AnalysisModels & Research

要点

  • 本研究では、AIを介在させた対話介入を用いて、参加者が障害者差別に基づくマイクロアグレッションを認識する力を高めることを、4つの条件で検証した。条件は、偏見指向の働きかけ(Bias-Directed nudges)、中立指向の包摂(Neutral-Directed inclusion)、自己主導・無指導の対話(Self-Directed unguided dialogue)、およびテキストのみのリーディング・コントロール(Reading)。
  • 定量的結果は、対話型の条件がReadingに比べ偏見の認識を高めたことを示したが、推移は異なっていた。偏見指向の働きかけは偏見と中立性の区別を高めた一方、全体的な否定性を高めた(Bias-Directed nudges)。
  • 定性的分析は、偏見指向の働きかけがしばしば拒絶される一方、包摂的な働きかけが足場として採用されたことを示し、対話型システムの設計上のトレードオフを浮き彫りにした。
  • 著者らは、検証済みのビネットコーパス、AI介在介入プラットフォーム、および対話システムに偏見関連の働きかけを統合する際の実践的設計示唆を提供する。
障害者差別に基づくマイクロアグレッションは日常の対話の中で依然として広く存在するが、それらを認識するのを助ける介入は限られている。AIを介在させた対話が認識にどのように影響するかを検証する実験を提示する。160名の参加者が、4条件で事前テスト・介入・事後テストを完了した:偏見へと導くAIの促し(Bias-Directed nudges)、包摂を促す介入(Neutral-Directed inclusion)、無指導の自己主導対話(Self-Directed unguided dialogue)、およびテキストのみの非対話(Reading)。参加者は社会的経験の標準性と情動的影響を評価し、対話ベースの条件の参加者は定性的な所見も提供した。定量的な結果は、対話ベースの条件がReadingよりも認識を高めたことを示したが、推移は分岐した。偏見指向の促しは、偏見と中立性の区別を高めた一方、全体的な否定性を高めた。包摂的または促しなしはよりバランスの取れた状態を保ったが、Readingの参加者は利得が弱く、場合によっては低下さえ見られた。定性的な知見では、偏見を誘導する促しはしばしば拒絶されたが、包摂的な促しは足場として採用された。我々は検証済みのビネットコーパス、AI介在介入プラットフォーム、および対話システムに偏見関連の促しを統合する際の設計上のトレードオフを浮き彫りにする実践的設計示唆を提供する。