グローバル進化的ステアリング: 層間の一貫性を通じたアクティベーション・ステアリング制御の洗練

概要: アクティベーション・エンジニアリングは、ファインチューニングの計算コストを要せずに、大規模言語モデル（LLMs）を正確に制御することを可能にします。しかし、静的な活性化差分からベクトルを導出する既存の手法は、高次元ノイズや層ごとの意味的ドリフトに影響を受けやすく、しばしば標的な意図ではなく偽の相関を捉えてしまいます。これに対処するため、Global Evolutionary Refined Steering（GER-steer）を提案します。訓練不要のフレームワークで、ネットワークの表現進化の幾何学的安定性に基づいています。GER-steer はこのグローバル信号を活用して未処理のステアリングベクトルを修正し、堅牢な意味的意図を直交するアーティファクトから効果的に分離します。広範な評価により、GER-steer は一貫してベースラインを上回り、層特有のチューニングなしに卓越した有効性と汎化性を提供することを確認しました。信頼性のあるモデルアラインメントの普遍的な解決策を確立します。