AI Navigate
インサイト最新記事一覧AI大全

Found how to toggle reasoning mode for Gemma in LM-Studio!

Reddit r/LocalLLaMA / 4/4/2026

💬 OpinionDeveloper Stack & InfrastructureSignals & Early TrendsTools & Practical Usage
Read original →
共有:

Key Points

  • 投稿は、LM-StudioでGemmaの推論（reasoning）モードを「/think」をシステムプロンプトに追加することで起動できると紹介しています。
  • Gemma側では`<|channel>thought`の`|`の位置が通常と異なるため、推論セクションのパースに失敗する例がある点が注意喚起されています。
  • Start Stringを`<|channel>thought`、End Stringを`<channel|>`として扱うことで推論部分を切り出せると説明しています。
  • Jinjaテンプレート例（pastebinリンク）を提示し、26B/31Bの両モデルで動作確認できたと報告しています。
Found how to toggle reasoning mode for Gemma in LM-Studio!

I’ve figured out how to trigger the reasoning process by adding "/think" to the system prompt.

Heads up: the <|channel>thought tags have an unusual pipe (|) placement, which is why many LLM fail to parse the reasoning section correctly.

So Start String is : "<|channel>thought"
And End String is "<channel|>"

Here is the Jinja template:https://pastebin.com/MGmD8UiC

Tested and working with the 26B and 31B versions.

submitted by /u/Adventurous-Paper566
[link] [comments]

関連おすすめサービス

※当サイトはアフィリエイト広告を利用しています
🎧

Notta搭載AI議事録イヤホン ZENCHORD1

AI時代の仕事術。Notta搭載で会議の議事録を自動生成するスマートイヤホン。

🎙️

AI搭載ボイスレコーダー Plaud

世界100万人が愛用。AIで文字起こし・要約を自動化するボイスレコーダー。

🖼️

画像高画質化AIツール Aiarty Image Enhancer

AIで画像を高画質化。写真・イラストを簡単にアップスケール。