 | Past few days, its all been about MTPs. Somehow people missed out the fact that Z lab released the Dflash for Gemma4 26B a couple of days ago. As far as my understanding goes, Dflash should be a better alternative than MTP because of faster parallel block diffusion drafting and the fact that it is stateful (it can have a persistent state across iterations for context buffers, KV cache positions, and RoPE offsets). This basically should mean that dflash should be drastically better as the session extends and context grows. MTP should technically degrade faster because the kv cache will start balooning faster. I am very curious though how much of a speed difference does dflash bring to sparse models like Gemma 4 26B and Qwen 3.6 35B. Unfortunately, I can't test it since it's vllm only . Anybody tried using this? Any significant gains in speed? And what's the state of dflash support over lcpp? Are we any close? [link] [comments] |
z-lab released gemma-4-26B-A4B-it-DFlash. Anybody tried it yet?
Reddit r/LocalLLaMA / 5/8/2026
💬 OpinionDeveloper Stack & InfrastructureSignals & Early TrendsModels & Research
Key Points
- Z-LabがGemma 4 26B向けのDFlashを数日前に公開したが、これまであまり注目されていなかったと記事内で言及されています。
- DFlashはMTPよりも高速な並列ブロック拡散のドラフティングに加え、反復をまたいで状態（コンテキストバッファ、KVキャッシュ位置、RoPEオフセットなど）を保持できる「ステートフル」設計だと説明されています。
- セッションが長くなってコンテキストが増えるほどDFlashが有利になり、MTPはKVキャッシュが膨らみやすいため劣化が早まる可能性がある、という期待が示されています。
- 一方で、Gemma 4 26BやQwen 3.6 35Bのようなスパースモデルでどれほど速度差が出るのか、またvLLM限定で検証できないことから、ユーザーに実測結果の共有が求められています。
- さらに、lcpp（llama.cpp）など他基盤に対するDFlash対応状況が気にされており、どこまで実装が進んでいるかの情報が求められています。
Related Articles
Steno: Opensource AI powered intelligence layer for your confidential conversations.
Dev.to
How I Combine AI + Automation + Full-Stack Development to Build Smarter Systems
Dev.to
🚀 Just built a beginner-friendly AI tool called Mini AI Auto Trainer 🤖
Dev.to
Nine Seconds, No Backups: An Agent’s “Confession”
Dev.to
DeepSeek V4 Pro vs Flash: 3 Tasks, 100M Tokens, Real Cost-Quality Tradeoff
Dev.to
