Steam Deckを持っていれば、それは“自宅でのローカルLLM推論”サーバーとして最適なハードウェアかもしれません

この手の話はおかしみに感じます。もちろん、余分に12GB以上のVRAMを持つ予備マシンが利用できるなら話は別ですが、これは主にVRAMが足りない人への PSA（公知の注意喚起）です。ただし、推論を実行する間、そのリソースを本来の用途に使いたいと思う場合もあるでしょう。

Steam DeckはRAMが多くありませんが、16 GB *soldered* DDR5を搭載しています。これは、モデルがメモリに収まる限り、通常のPCのCPU RAMよりもおそらく良いでしょう。そして、16 GBに収まるものにはCPU推論も完全に実用的です。さらにこれは低消費電力のデバイスです。感想はどうですか？