Gemma 4 running on Raspberry Pi5

Reddit r/LocalLLaMA / 4/3/2026

📰 NewsDeveloper Stack & InfrastructureSignals & Early TrendsTools & Practical Usage

Key Points

  • Raspberry Pi 5(8GB、SSD構成)で、llama.cppの最新ブランチをコンパイルしてGemma 4(e2b、Unsloth系バリアント)を動かしたという報告がある。
  • 実行には「Potato OS」を使用しており、SSD有無でも速度は同等とされている。
  • 該当モデルは「Gemma 4 e2b」で、ローカル推論環境(Local LLaMA文脈)での実装が前提になっている。
  • Reddit投稿として共有されており、再現性の観点ではllama.cppのビルド手順と環境(Potato OS、RP5の構成)が重要になる。
Gemma 4 running on Raspberry Pi5

To be specific: RP5 8GB with SSD (but the speed is the same on the non-ssd one), running Potato OS with latest llama.cpp branch compiled. This is Gemma 4 e2b, the Unsloth variety.

submitted by /u/jslominski
[link] [comments]