大規模言語モデルはオンライン会話から政治的志向を推測できる

要旨: 識別情報、文化、政治的態度といった私たちの特性には相関的な構造があるため、バンドを追うことや特定のスラングを使うことのように一見無害に見える嗜好が、個人の私的特徴を露呈する可能性がある。これに、大規模で公開されたソーシャルデータと高度な計算手法を組み合わせると、根本的なプライバシーリスクを生じさせる。オンライン上でのデータ露出が増え、AIの急速な進展がこのリスクの悪用可能性を高めていることを踏まえると、LLMs（大規模言語モデル）がそれを悪用する能力を理解することが極めて重要になる。ここでは Debate.org と Reddit のオンラインディスカッションを用い、LLMs が隠れた政治的志向を信頼性高く推測できることを示し、従来の機械学習モデルを著しく上回る。推定精度は、複数のテキストレベルの推論をユーザー単位の予測に集約するほど、またより政治に近接したドメインを使用するほど、さらに向上する。LLMs が、政治的志向を高度に予測できる語を活用する一方で、それらの語は必ずしも明示的に政治的でないことを示している。私たちの知見は、社会・文化的相関を利用するLLMsの能力とリスクを強調しており、そのような能力の悪用の可能性を示唆している。