あなたはA-hole？公平な多視点倫理推論フレームワーク

概要: 多数決のような自然言語判断の集約に関する標準的手法は、高い対立がある領域に適用すると、異なる意見をノイズとして扱うため、論理的に整合した結果を得られないことがしばしばあります。私たちは、対立解消を Weighted Maximum Satisfiability（MaxSAT）によって形式化する、ニューラル・シンボリックな集約フレームワークを提案します。提案手法のパイプラインでは、言語モデルを用いて、非構造化の自然言語による説明を、解釈可能な論理述語と信頼度（コンフィデンス）の重みへと対応付けます。これらの要素は、その後Z3ソルバにおけるソフト制約として符号化され、集約問題を、対立する証言間で最大限の整合性を求める最適化課題へと変換します。大規模な道徳的見解の不一致の事例研究として、Reddit の r/AmItheAsshole フォーラムを用いることで、私たちのシステムは、人気ベースのラベルとは62%の確率で異なる、論理的に首尾一貫した評決を生成します。さらに、独立した人間評価者との一致率は86%であることが裏付けられています。この研究は、ノイズのある人間の推論を集約する際に、論理的健全性と説明可能性を強制するために、ニューラルによる意味抽出と形式的ソルバの結合が有効であることを示しています。