認可なしの承認：LLMとオンライン助言の道徳的秩序

要旨: 大規模言語モデルは、日常の対人関係におけるジレンマを仲介するためにますます使われるようになっているが、これらの助言のデフォルトが、特定のコミュニティに集中している道徳的秩序とどのように相互作用するのかは、いまだ十分に理解されていない。本記事は、r/relationship_advice からの 11,565 件の投稿に対して、コミュニティが支持した助言を用いながら、4種類のアシスタント型LLMを比較する。ここでは、サブレディットを、投票によって有効化された道徳形成が凝縮した場として扱い、その規範的な明確さによって逸脱を測定可能にしている。全モデルにおいて、LLMは人間の書き込み者と同様の多くの力学を特定する一方で、その認識を行動のための指示的な許可へと変換する可能性は著しく低い。このギャップが最も鮮明になるのは、コミュニティの合意が最も強い領域である。虐待や安全上の脅威が含まれる、高合意の投稿では、モデルは人間のほぼ半分の割合で「離脱」を勧める一方、慎重さ（ヘッジ）、妥当性の確認、そしてセラピー的な枠組みづけの水準は高いままである。
本記事は、このパターンを「許可のない認識（recognition without authorization）」として説明する。すなわち、害の存在を登録する能力を持ちながら、結果を伴う行動に対して社会的に承認された許可を差し控えることである。この逸脱は偶然ではなく構造的である。つまり、検証可能で（validating）、リスク回避的であり、かつ状況をまたいだ場合でも指示性が弱い、持ち運び可能な助言スタイルだ。安全性のアラインメントは、このパターンを生み出す一つのもっともらしい要因であるほか、学習データの平均化や、より広範なアシスタント設計も関与している。本記事は、モデルの逸脱を「技術的な誤り」から「標準化されたアシスタント規範が、位置づけられた道徳的世界に遭遇した際に何を平坦化するのかを見て取るための見方」へと再枠付けできると論じる。