トークン化における確率性が頑健性を向上させる

要旨: 大規模言語モデル（LLM）の広範な採用は、その頑健性に対する懸念を高めている。入力のトークン化に対する摂動における脆弱性は、決定論的な標準（カノニカル）トークン化で訓練されたモデルが、敵対的攻撃に対して脆い可能性を示している。近年の研究では、確率的トークン化は摂動への感度が低い内部表現をもたらしうることが示唆されている。本論文では、確率的トークン化が敵対的攻撃およびランダムな摂動に対する頑健性にどのように影響するかを分析する。学習状況の幅（事前学習、教師あり微調整、インコンテキスト学習）、データセット、モデルアーキテクチャにわたって体系的に検討する。一様にサンプリングされた確率的トークン化での事前学習と微調整は、ランダムおよび敵対的摂動への頑健性を改善することを示す。一様にサンプリングされた非標準（ノンカノニカル）トークン化で評価すると、標準的に訓練したLlama-1bモデルの精度が29.8%低下することを見いだした。確率的トークン化で訓練すると、推論コストを増やすことなく精度が維持される。