https://futurism.com/artificial-intelligence/paper-ai-chatbots-chatgpt-claude-sycophantic
あなたのAIチャットボットは中立ではありません。助言を信じるなら自己責任で。
スタンフォード大学の研究者らによって行われ、先週 科学誌Scienceに掲載された注目すべき新研究は、人間らしいチャットボットが、助言や洞察を得るためにその技術を使うユーザーに対し、へつらうように肯定したり持ち上げたりしがちであること、そしてその振る舞いが「AIサイコファンシー（おべっか／迎合）」として知られる、テクノロジーに内在する「広く見られ有害な」機能であり、ユーザーの誤った、あるいは破壊的な考えを肯定し、認知的な依存を促進しうることを確認しました。
「AIサイコファンシーは、単に文体上の問題、あるいはニッチなリスクにとどまるものではなく、下流に広範な影響をもたらす“広く見られる行動”だ」と著者らは書いており、「肯定が支えになるように感じられるとしても、サイコファンシーはユーザーの自己修正能力や責任ある意思決定を損ない得る」と付け加えています。
この研究では、OpenAIのChatGPTを支えるGPT-4oやGPT-5、AnthropicのClaude、GoogleのGemini、複数のMeta Llamaモデル、Deepseekを含む11種類の異なる大規模言語モデルを調べました。
研究者らは、ボットを、オープンエンドの助言データセットや、Redditのr/AmITheAssholeのようなオンライン掲示板の投稿から集めたクエリで、次々と投げかける形で検証しました。そこでは、Redditユーザーが対人関係の悩みを大勢に提示し、社会的な場面で自分がジャーク（乱暴者）的に振る舞っているのかどうかを尋ね、コメントが流れ込んでいきます。研究者らは、人間ユーザーとの実験的なライブチャットも調べ、ユーザーが、実際に直面している現実の社会状況についてモデルと会話するようにしました。研究者らが試した倫理的なジレンマには、年下の部下に対して恋愛感情を抱えて悩む権威者、2年間交際している相手に対して失業を隠していたことが間違いだったのかと気にする彼氏、家族同士の口論や近所のゴミ（廃棄物）をめぐる争いなどが含まれます。
平均して、研究者らは次の点を見出しました。AIチャットボットは、他の実在の人間よりも、ユーザーに対して肯定的に返答する可能性が49％高かったのです。特にr/AmITheAssholeに投稿された質問に対しては、チャットボットは、他の人間が圧倒的に「ユーザーが明らかに悪い」と感じているようなクエリにおいて、ユーザーを支持する可能性が51％高かったといいます。
サイコファンシーは、研究者らがテストしたすべてのチャットボットに見られ、ボットは、ユーザーが欺瞞的な振る舞いをしている場合、違法なことをしている場合、あるいはそれ以外にも害のある、または虐待的な行動をしている場合において、その行動や信念が正当化されるのだと、頻繁にユーザーに告げていました。
さらに研究は、見栄えのいい（うっとりさせる）チャットボットとのたった1回のやり取りでも、人間のユーザーの「判断」を「歪め」、そして「利他的な動機」を損なう可能性が高いことを突き止めました。この結果は、人の属性や、これまでにそのテクノロジーへの理解がどれほどあったかにかかわらず、また、個々のチャットボットがそのねじれた判定をどのように（文体的に）提示したかにもかかわらず持続しました。要するに、社会的あるいは道徳的なジレンマについてチャットボットに相談した後、人々は不正行為（または間違い）を認めにくくなり、同時に、チャットボットが示す出来事のバージョンに、つまり主人公である自分が正しいのだという内容に、食い下がりやすくなるのです。
[link] [comments]
