「Androidでこれを使いたい」系の質問をいくつか見かけたからというわけではありませんが、PocketPal は数時間前にアップデートされていて、Gemma 4 2B と 4B は問題なく動きます。少なくとも私の環境の機材(ショボい小型の moto g84 という主力スマホ)ではそうです。定期的にアップデートが入るアプリ、最高です。
これから、起動直後の状態で、26B の a4 iq2 を 12GB の RAM にねじ込もうとしてみますが、Android の肥大化のせいでできないだろうという確信はほぼあります。
とはいえ、PocketPal なら 2B と 4B は問題なく、しかも素早く動きます。次は 7〜8B(9B ではなく)だといいですね。新しい Qwen 3.5 のモデルはメモリ上限をスキップしますが、古いものはそうではありません。超すごい数字です。OS のオーバーヘッドやコンテキストサイズの必要分を少しだけ抑えれば、12GB RAM のスマホでも実用になります。
ただ、GemmaSutra 4 4B もお願いします。思考のもう一つのゴールドスタンダードであり、しかも(だいぶ)速めです。私たちは彼女を直します。テクノロジーがあります!
[リンク] [コメント]




