Homelabは自分自身の費用を回収した!(少なくともこれが私の正当化の方法だ...)

Reddit r/LocalLLaMA / 2026/3/15

💬 オピニオンDeveloper Stack & InfrastructureTools & Practical UsageModels & Research

要点

  • 本投稿は、LLM実験に使用されるホームラボのアップデートを提供しており、Qwen3.5やGLMシリーズなど現在のLLMをマッピングし、'Brain Scan'ビジュアルを示します。
  • 電力使用量はTasmotaとGrafanaで記録され、1時間あたりGH100モジュールあたり約$3.50のオンデマンドGPUコストを見積もると、今日の価格で約$10,000のコストに相当します。
  • 作者はリグに$9,000を支払い、電力コストは$1,000未満と見積もり、公式には財政的に先行していると主張しています。
  • この物語は、クラウド計算を支払う代わりに、AI実験を行うためのホームラボを所有することの個人的費用正当性を強調しています。
  • 本投稿は、実用的でハードウェアに裏打ちされたML実験を示すため、LLM Neuroanatomyと現在のLLMを参照しています。
Homelabは自分自身の費用を回収した!(少なくともこれが私の正当化の方法です...)

ねえ、しばらく前に投稿した私の 私が投稿したHomelab のアップデートをしてみようと思います。

現在、それを LLM実験 に使っており、ここにその概要を書きました。基本的には、おそらく LLM Neuroanatomyを発見した ようで、現在はサーバを使って Qwen3.5 や GLMシリーズの現在のLLMをマッピング しており(これは 'Brain Scan' 画像はこちら の一部です)

とにかく、このリグは Tasmota で電源を制御しており、すべてを Grafana に記録しています。ミュンヘンでは電力コストがかなり高いのですが、約 $3.50 / 時 / GH100 モジュールのコストで計算すると(H100 の価格帯ですが、これらはチップごとに 480GB の RAM と 8TB の SSD を搭載しており、$3.50 は適正だと思います)、今日のオンデマンド GPU 使用料は約 $10,000 になるでしょう。

総額で $9,000 を支払い、電力は確かに $1,000 未満だったので、公式には私の方が先行しています! 妻に尋ねられたら、その話をそのまま通してください!

提出者 /u/Reddactor
[link] [comments]