こんにちは、いろいろな投稿をかなりスクロールして、個人的な体験談、セットアップのためのアドバイス、そして私のような初心者からの質問への返信を読んできました。
LLM は本当に革命みたいに感じます。
でも、どの投稿にも同時にいくつか問題があります：
値段が高い；
本気で大金を払う気があっても、やはりうまくセットアップするのが難しそうに見える；
そして結局、かなり高価なローカル環境であっても、特に速度やトークンの処理スループットの面では、最新の Claude や GPT バージョンに見合うようには思えません。
それでも、やる価値はありますか？
大きな質問に聞こえるのは分かっていますが、私はそれを真剣に検討するだけのお金はあります。5×3090s（64GB からのんびり始めるつもりで、3090 + 3060）に、128GB 以上の DDR5 という構成は、私にとって現実的に思えます。
しかし、きちんと準備したとしても、Claude Pro Max x20 や GPT Pro と同等のスピード、賢さ、そして全体的なスムーズさのある体験を実際に得られるのでしょうか？
やりたい理由はシンプルです：
私は 本当に嫌 なんです。友人や自分たちが、基本的に IQ 200 の“餌”みたいな相手に自分たちの生活を丸ごと投げて、さらにその相手に監視してもらうためにお金を払う、という発想が。だから、私はプライベートなオフラインモデルを使いたいんです。
[link] [comments]
