EffiPair：相対的対比フィードバックによってLLM生成コードの効率を改善する

Abstract

大規模言語モデル（LLM）は、しばしば機能的には正しいものの、実行時の速度やメモリ効率の点では非効率なコードを生成します。コード効率を改善するための従来のアプローチは、典型的に、ある単一プログラムの実行時間やメモリ使用量をプロファイリングするなどの絶対的な実行フィードバックに依存してきました。しかしこれはコストが高く、改善のための指針としても弱いものでした。そこで本研究では、モデルの微調整やパラメータ更新を必要としない推論時フィードバック機構である相対コントラスト・フィードバック（RCF）を提案します。RCFは、同一のタスクに対して構造的に類似した2つのプログラムを比較し、より効率の良いものに結びつく差分を強調します。この考え方を発展させて、EffiPairという、推論時の反復的洗練（iterative refinement）フレームワークを導入します。EffiPairは、複数の候補解を生成し、大きな効率差を持つ情報量の多いプログラム対を特定し、それらの実行差分を軽量なフィードバックとして要約し、その信号を用いてより効率的な解を生成することで、テスト時のみで完結して動作します。孤立したスカラーのフィードバックを、ペア間の対比（contrastive）比較に置き換えることで、EffiPairはプロファイリングやプロンプトのオーバーヘッドを抑えつつ、より直接的な指針を提供します。コード効率ベンチマークでの実験では、EffiPairは正しさを維持しながら一貫して効率を改善することが示されています。たとえばDeepSeek-Chat V3.2では、生成に性能フィードバックを与えない場合でもEffiPairは最大で1.5倍の速度向上を達成し、先行研究と比べてトークン使用量を90%以上削減します。