ここ数年、自分用の個人的なジャーナルをつけ続けています。内容はすべて合わせて10万トークン超（100k+）です。Gemma 4 のいくつかのモデルが256kのコンテキストに対応していることに気づいたので、最初のプロンプトで私の個人的なジャーナル全文を共有し、いくつか洞察を求めることで、26B A4Bモデルを試してみることにしました。
もちろん、単に「洞察を共有して、間違いはないようにして」などと言ったりはしていません。LLMにはユーザーを“おべっかを使う”可能性があることは十分に承知しています。だからこそ、次のようなガイド付きの質問を与えました：
- 「どのような話題や懸念が繰り返し出てきますか？」
- 「私は考えることを避けてきたことは何ですか？」
- 「[話題を挿入] に対する私の考えは、どのように変化しましたか？」
- 「それぞれの年で私が大きく気にかけていたことは何でしたか？」
- 「私が述べている価値観と、私が取っている行動にはどこで食い違いがありますか？」
- 「私は『欲しい』と言っているのに、ほとんど実行していないことは何ですか？」
そしてGemma 4は、本当に素晴らしい洞察をいくつも返してくれました。私が気づいていなかったこと、あるいは当時は気づいていたものの、その後の年月の中で忘れてしまっていたことです。
もちろん、ChatGPTなどで自分の人生の個人的な詳細をためらわずに共有する人もいるかもしれませんが、私は自分の個人的な生活をRunPodでホストされたモデルに、ましてや独自（プロプライエタリ）のモデルに共有することなど、そもそも考えたこともありません。だからこそ、私にとってGemma 4のようなローカルモデルは本当にありがたい存在です。自分のコンピュータで、この手の内容を話せるなんて—しかも、親しい友人にさえ共有するのをためらうようなことでも—そしてちゃんと良い回答が返ってくるなんて、正直おかしな話です。私たちは本当に、いまSFの世界に生きているんですね。
[link] [comments]
