人間およびLLMにおけるバイアスに関するSystem 1／System 2のセマンティック・メモリ構造の役割

arXiv cs.CL / 2026/4/15

💬 オピニオンIdeas & Deep AnalysisModels & Research

共有:

要点

本論文は、人間およびLLMにおける暗黙のバイアスが、デュアルプロセス認知（System 1 vs System 2）へどのように対応しうるかを、両者を異なる構造を持つセマンティック・メモリのネットワークとしてモデル化することで検討する。
著者らは、人間とLLMが作成した比較可能なデータセットを用い、ネットワークに基づく指標を評価して、セマンティック・メモリ構造が暗黙の性別バイアスとどのように関係するかを検証する。
結果は、セマンティック・メモリ構造が「不可還元的（irreducible）」であるのは人間にのみ当てはまり、LLMはその性質に必要な、ある種の人間らしい概念的知識を欠いている可能性を示唆する。
本研究では、セマンティック・メモリ構造は暗黙のバイアスと一貫して相関するのは人間においてのみであり、System 2に類似した構造への依存が高いほどバイアスが低いことが分かる。
全体として、特定の概念的知識に結び付いたバイアス制御のメカニズムは、人間の認知では基礎的なものとして存在しうるが、LLMの認知には直接的には存在しない、または同等の形では見られないことを示している。

要旨: 人間と大規模言語モデル（LLM）の両方における暗黙のバイアスは、重大な社会的リスクをもたらす。二重過程理論は、バイアスが主として連想的なシステム1の思考から生じ、熟慮的なシステム2の思考がバイアスを緩和すると提案するが、この現象を生み出す認知メカニズムは十分に理解されていない。人間におけるこの二重性の根底に何があるのか、そして場合によってはLLMにおいても同様であることをよりよく理解するために、我々はシステム1とシステム2の思考を、双方の人間とLLMによって生成された同程度のデータセットから構築される、異なる構造をもつ意味記憶ネットワークとしてモデル化する。そのうえで、これらの異なる意味記憶構造が、ネットワークベースの評価指標を用いて暗黙の性別バイアスとどのように関連するかを調べる。意味記憶構造は、人間においてのみ還元不可能であり、これはLLMがある種の人間らしい概念知識を欠いていることを示唆する。さらに、意味記憶構造は、暗黙のバイアスとの関連が一貫して人間においてのみ観察され、システム2の構造ではバイアスがより低い。これらの結果は、特定の種類の概念知識が人間ではバイアス調整に寄与する一方、LLMでは寄与しないことを示しており、人間と機械の認知の間に本質的な違いがあることを浮き彫りにする。