CounterMoral: 言語モデルにおけるモラルの編集

Abstract

言語モデル技術の最近の進歩により、事実情報の編集能力が大幅に向上しました。しかし、人間の価値観にモデルを整合させる上で重要な側面である道徳的判断の修正は、あまり注目されていません。本研究では、多様な倫理的枠組みにわたって、現在のモデル編集手法がどの程度道徳的判断を修正できるかを評価するために設計されたベンチマークデータセット「CounterMoral」を提案します。複数の言語モデルに対してさまざまな編集手法を適用し、その性能を評価します。私たちの知見は、倫理的であることを目指して設計された言語モデルの評価に貢献します。