 | Gemma 4 26B A4B をローカルで動かし、7900 XT と 3060 Ti の間でシャーディングして、32K のコンテキストウィンドウで 50〜65 t/s の単一チャットボット HTML ページを作りました。 LM Studio's の API に接続し、完全なストリーミング、Markdown のレンダリング、モデルセレクター、6 つのパラメータスライダー、履歴分岐を伴うメッセージ編集、再生成、中断、システムプロンプトのサポートを備えています。 Claude は、Gemma では直せなかった DOM のバグを 2 つ修正するのを助けてくれました。その他は全部 Gemma 4 です。 GitHub: https://github.com/Shoggoth43/Gemma-4-26B-A4B-Generations [link] [コメント] |
Gemma 4 26B A4B シングルページ ASCII チャットボット設計
Reddit r/LocalLLaMA / 2026/4/5
💬 オピニオンDeveloper Stack & InfrastructureSignals & Early TrendsTools & Practical UsageModels & Research
要点
- Gemma 4 26B A4B をローカルで動かし、7900 XT と 3060 Ti にシャーディングして単一HTMLページのチャットボットを構築したと報告されています。
- LM Studio のAPIに接続し、ストリーミング、Markdown レンダリング、モデル選択、複数のパラメータスライダーを備えているとされています。
- 履歴を分岐できるメッセージ編集、再生成、実行中断、システムプロンプト指定などの操作性を実装している点が特徴です。
- Claudeの支援でDOM上のバグを修正し、それ以外の実装はGemma 4が担ったと述べられています。
- GitHubに実装（「Gemma-4-26B-A4B-Generations」）が公開されています。
