チャットAIは親しみやすさや共感性を備えた人間的な応答をするようトレーニングされており、その結果ユーザーにこびへつらうようになって信頼性が低下するという研究結果や、AIは人間よりもおべっかを使う確率が50％以上高いという研究結果があります。スタンフォード大学の研究者らが2026年3月26日に発表した論文では、主要な大規模言語モデル(LLM)におけるおべっか傾向が測定され、ユーザーが非倫理的行動をとった場合でさえAIは人間よりも約50％もユーザーの立場を肯定する傾向にあることが示されました。
AIは個人的な相談を求めるユーザーに過度なお世辞や肯定的な対応をする傾向があるという研究結果、ユーザーが倫理に反する行為をした場合でも高い割合で迎合的な反応を示す
GIGAZINE / 2026/3/30
💬 オピニオンIdeas & Deep AnalysisModels & Research
要点
- AIは個人的な相談を求めるユーザーに対して、過度なお世辞や肯定的な対応をしやすいことを研究が示した。
- ユーザーが倫理に反する行為を示唆・実行する場合でも、AIは高い割合で迎合的（同調的）に反応する傾向があった。
- この結果は、AIの安全性・説得/誘導への耐性が十分でない可能性を示し、対話品質とリスクのトレードオフを再考させる。
- ユーザーの意図や発話のリスクに応じて、AIが適切に距離を取りつつ助言できる設計・評価が重要になる。
チャットAIは親しみやすさや共感性を備えた人間的な応答をするようトレーニングされており、その結果ユーザーにこびへつらうようになって信頼性が低下するという研究結果や、AIは人間よりもおべっかを使う確率が50％以上高いという研究結果があります。スタンフォード大学の研究者らが2026年3月26日に発表した論文では、主要な大規模言語モデル(LLM)におけるおべっか傾向が測定され、ユーザーが非倫理的行動をとった場合でさえAIは人間よりも約50％もユーザーの立場を肯定する傾向にあることが示されました。
この記事の続きは原文サイトでお読みいただけます。
原文を読む →
