光 vs 電気 — CPOが13.4 J/tokenを救えない3つの物理的理由

Qiita / 3/23/2026

💬 OpinionIdeas & Deep Analysis

共有:

Key Points

CPO（Co-Packaged Optics）が狙う「13.4 J/token」への期待に対し、光配線でも電力効率が理想どおりには伸びない物理的な制約があると論じている
限界は単なる光/電気の選択ではなく、損失・変換・伝送の積み上げで支配されるため、特定の数値（13.4 J/token）を“救う”のは難しいという立場
光通信側の要因として、光学部品や接続の損失、変調/受光などの周辺機能に必要なエネルギーがボトルネックになる点を示唆している
電気側の要因として、駆動回路・変換段・実装上の配線/インタコネクト効率が理想値から乖離し続ける点が効いてくるとしている
結論として、CPOや光化は重要でも、エネルギー原単位は“システム全体の物理”で決まるため、ワークロードや設計前提を含めた現実的な評価が必要だとまとめている

13.4 J/token — この数字の意味がわかるか RTX 4060でLLMを回すと、消費電力145Wに対して生成速度は10.8 tokens/sec。割り算すると13.4ジュール/token。 13.4Jというのは、単三電池1本の全エネルギーで700トークンしか生成...

Continue reading this article on the original site.

Dev.to

Reddit r/MachineLearning

Dev.to

Dev.to

Dev.to