一貫しているが危険：サンプルごとの安全性分類が医療ビジョン・言語モデルにおける誤った信頼性を明らかにする

要旨: パラフレーズ（言い換え）に対する一貫性、つまり意味的に同等なプロンプトが同一の予測結果をもたらすという性質は、医療のビジョン・言語モデル（VLM）を実運用する際の信頼性の代替指標として、ますます用いられるようになってきています。本研究では、この代替指標が本質的に誤っていることを示します。入力画像ではなく、テキストのパターンに依存することで、モデルは完全な一貫性を達成し得るのです。そこで本研究では、サンプルごとの「4象限」による安全性タクソノミーを導入します。これは、一貫性（言い換えられたプロンプト間で予測が安定していること）と、画像への依存（画像を取り除くと予測が変化すること）を同時に評価するものです。サンプルは、Ideal（整合的で画像に依存している）、Fragile（一貫性がないが画像に依存している）、Dangerous（一貫性はあるが画像に依存していない）、Worst（一貫性もなく画像にも依存していない）のいずれかに分類されます。胸部X線データセット2つ（MIMIC-CXR、PadChest）に対して、5つの医療VLM構成を評価したところ、LoRAの微調整はフリップ率を劇的に低減する一方で、サンプルの大多数をDangerous象限へと移していました。LLaVA-Rad BaseはPadChestで1.5%のフリップ率を達成するものの、その98.5%のサンプルがDangerousでした。重要な点として、Dangerousサンプルは高い精度（最大99.6%）と低いエントロピーを示し、標準的な信頼度ベースのスクリーニングでは見えなくなります。フリップ率とDangerous割合の間には負の相関が観測されました（r = -0.89、n=10）。そして、運用評価では一貫性チェックに加えて、必ずテキストのみのベースラインと組み合わせることを推奨します。誤った信頼性の罠を露呈させるための、追加の1回のフォワードパスを行うだけでよいのです。