広告

Gemma 4の1B、13B、27Bが見つかる

Reddit r/LocalLLaMA / 2026/4/3

💬 オピニオンSignals & Early TrendsModels & Research

要点

  • Gemma 4は、1B、13B、27Bの3つのサイズで、事前学習済みおよび指示チューニング済みのバリアントが提供されるマルチモーダルモデルです。
  • モデルの中核となるアーキテクチャは、これまでのGemmaのバージョンと概ね同じですが、固定されたトークン予算内で画像を生成できる専用のビジョンプロセッサが追加されています。
  • 画像理解のために、Gemma 4は高さと幅の両方の次元にわたる情報をエンコードする空間2D RoPEメカニズムを導入します。
  • すべてのバリアントのオリジナルのGemma 4チェックポイントは、Hugging Faceのコレクションリンク経由で利用可能です。

[Gemma 4](INSET_PAPER_LINK) は、事前学習済みおよび指示チューニング済みのバリアントを備えたマルチモーダルモデルで、パラメータ数が 1B、13B、27B のモデルが用意されています。アーキテクチャは、以前の Gemma バージョンとほぼ同じです。主な違いは、固定トークン予算の範囲で画像を出力できる視覚プロセッサと、高さおよび幅の軸にまたがって視覚向けの情報をエンコードするための空間 2D RoPE です。

すべてのオリジナルの Gemma 4 チェックポイントは、[Gemma 4](https://huggingface.co/collections/google/gemma-4-release-67c6c6f89c4f76621268bb6d) のリリース内にあります。

投稿者: /u/TKGaming_11
[リンク] [コメント]

広告