LLM推論における圧縮の逆説：プロバイダ依存のプロンプト圧縮によるエネルギー効果

要旨: 大規模言語モデル（LLM）の急速な普及は、環境上の逆説を生み出しています。すなわち、気候課題の解決に役立ちうるまさにその技術が、いまや世界的な炭素排出における重要な寄与因子になりつつあるのです。本研究では、3つのプロバイダ（OpenAI GPT-4o-mini、Anthropic Claude-3.5-Sonnet、DeepSeek-Chat）にまたがる28,421件の成功したAPI試行（28,428件予定）において、5つのベンチマーク（HumanEval、MBPP、GSM8K、MATH、MMLU）と4つの圧縮率（r が {1.0, 0.7, 0.5, 0.3}）を対象に、プロンプト圧縮が推論のエネルギー効率を改善するかどうかを検証します。エネルギーは、ローカルでの直接測定により較正したトークンベースの代理指標で推定し、品質はベンチマークの合格率で追跡します。圧縮は大きな品質低下をもたらしました（全体の合格率がベースラインで26.0%であるのに対し、r=0.7で1.5%）が、エネルギー挙動はプロバイダに強く依存しました。DeepSeekは圧縮下で出力が拡張し（r=0.3で21～798トークン）、エネルギーが最大+2,140%増加することに対応していました。一方でGPT-4o-miniは、r=0.5での低下を含むなど、混在した効果を示しました。これらの結果は、入力トークンの削減だけでは、本番環境の推論における信頼できるエネルギー最適化戦略にならないことを示しています。評価した設定においては、モデル選択と出力長の制御のほうが、プロンプト圧縮よりも一貫したエネルギーと品質のトレードオフを提供しました。