みなさんこんにちは、
現在はGeminiとNotebookLMをよく使っていますが、プライバシーや検閲されていないモデルのような用途で、ローカルAIへ移行したいと思っています。とはいえ、いきなり大金を投じる前に確認したいのですが、ローカルAIはパワーユーザーにとって本当にこれからの未来なのでしょうか？それとも、大手のクラウドモデルが私たちを永久に上回り続けるのでしょうか？それとも、今後すぐに出てくる別の何かがあるのでしょうか、そもそも私が気づいていないだけで。
今すぐ長期投資するなら、最も賢い選択は何でしょう？たとえ4〜7kかかっても、巨大なユニファイドメモリのためにM5 Mac Studio Ultraを待つべきですか？それとも、中古のRTX 3090を2台使ったクラシックな構成のほうがいいのでしょうか？手元には、Intel Xeon E5-2680 v4と128GBのメモリを搭載した古いDell Precision T5810があります。
それとも3つ目の選択肢は「ただ待つ」ことですか？ソフトウェアや量子化はとても速いスピードで改善しています。近いうちに、もっと安いハードウェアで素晴らしいモデルを動かせるようになる地点に到達しているのでしょうか？
今すぐ重いハードウェア投資をする価値はありますか？現実的な考えを聞けると嬉しいです。
[link] [comments]
