| ねえ、しばらく前に投稿した私の 私が投稿したHomelab のアップデートをしてみようと思います。 現在、それを LLM実験 に使っており、ここにその概要を書きました。基本的には、おそらく LLM Neuroanatomyを発見した ようで、現在はサーバを使って Qwen3.5 や GLMシリーズの現在のLLMをマッピング しており(これは 'Brain Scan' 画像はこちら の一部です) とにかく、このリグは Tasmota で電源を制御しており、すべてを Grafana に記録しています。ミュンヘンでは電力コストがかなり高いのですが、約 $3.50 / 時 / GH100 モジュールのコストで計算すると(H100 の価格帯ですが、これらはチップごとに 480GB の RAM と 8TB の SSD を搭載しており、$3.50 は適正だと思います)、今日のオンデマンド GPU 使用料は約 $10,000 になるでしょう。 総額で $9,000 を支払い、電力は確かに $1,000 未満だったので、公式には私の方が先行しています! 妻に尋ねられたら、その話をそのまま通してください! [link] [comments] |
Homelabは自分自身の費用を回収した!(少なくともこれが私の正当化の方法だ...)
Reddit r/LocalLLaMA / 2026/3/15
💬 オピニオンDeveloper Stack & InfrastructureTools & Practical UsageModels & Research
要点
- 本投稿は、LLM実験に使用されるホームラボのアップデートを提供しており、Qwen3.5やGLMシリーズなど現在のLLMをマッピングし、'Brain Scan'ビジュアルを示します。
- 電力使用量はTasmotaとGrafanaで記録され、1時間あたりGH100モジュールあたり約$3.50のオンデマンドGPUコストを見積もると、今日の価格で約$10,000のコストに相当します。
- 作者はリグに$9,000を支払い、電力コストは$1,000未満と見積もり、公式には財政的に先行していると主張しています。
- この物語は、クラウド計算を支払う代わりに、AI実験を行うためのホームラボを所有することの個人的費用正当性を強調しています。
- 本投稿は、実用的でハードウェアに裏打ちされたML実験を示すため、LLM Neuroanatomyと現在のLLMを参照しています。