切り捨ての盲点：デコード戦略が人間らしいトークンの選択を体系的に排除する方法

Abstract

テキスト生成の標準的なデコード戦略、トップK、核サンプリング、および対照的探索は、尤度に基づいてトークンを選択し、高確率領域に選択を制限します。人間の言語生成は異なる動作をします：トークンは統計的頻度ではなく、コミュニケーション上の適切さのために選択されます。この不一致は切り捨ての盲点を生み出します。文脈的に適切だが統計的には稀なトークンは人間には依然アクセス可能である一方、尤度ベースのデコードでは到達不能です。私たちはこれが機械生成テキストの検出可能性に寄与すると仮説します。8つの言語モデル、5つのデコード戦略、53のハイパーパラメータ設定にわたる180万件を超えるテキストを分析した結果、人間が選択したトークンの8-18%が典型的な切り捨て境界の外にあることが分かりました。予測可能性と語彙的多様性に基づいて訓練された単純な分類器は、顕著な検出率を達成します。重要なのは、モデルの規模もアーキテクチャも検出可能性と強く相関せず、切り捨てパラメータがほとんどの分散を説明します。低検出性を達成する構成はしばしば一貫性のないテキストを生成するため、検出を回避することと自然なテキストを生成することは別個の目的であることを示します。これらの所見は、検出可能性が尤度ベースのトークン選択によって高まるものであり、単にモデルの能力の問題ではないことを示唆しています。