https://github.com/Dynamis-Labs/spectralquant
要するに、最も信号が強いものがどれかを特定したあと、kvキャッシュのキー・ベクトルの97%を捨てる
[リンク] [コメント]
これ見た？ TurboQuantを18%上回る（性能）
Reddit r/LocalLLaMA / 2026/4/8
💬 オピニオンSignals & Early TrendsTools & Practical UsageModels & Research
要点
- Dynamis-Labsの「spectralquant」（GitHub公開）は、KVキャッシュのキー・ベクトルを解析して重要度の高いものを選別し、不要なものを大幅に削減する量子化/圧縮手法を採用しています。
- 具体的には、KVキャッシュのキー・ベクトルの97%を「信号が多い成分」として有用と判断したもの以外は破棄する設計だとされています。
- 投稿では、同様の領域で知られる既存手法（TurboQuant）に対して約18%の性能優位（改善）を示すと主張されています。
- 既存の推論最適化（メモリ/計算削減）に関心があるユーザーにとって、ローカルLLM運用の効率化に直結する可能性があります。
提出者： /u/OmarBessa
[リンク] [コメント]
