KarpathyのMicroGPTがFPGA上で5万TPSを達成

もちろん、パラメータ数は4,192だけですが、まずは第一歩です。プロジェクトの書き込みはこちら: https://v2.talos.wtf/ そしてgithubリポジトリはこちら: https://github.com/Luthiraa/TALOS-V2

速度の一部は、外部メモリではなくオンボードに重みを搭載していることによります。オンボードROMなら、16ビットの重みを使う現在のFPGAでは最大で2,000万〜3,000万パラメータまで到達しますが、これやTaalas（https://taalas.com/ - 似た名前であることは偶然ではないかもしれません）によって、FPGA内に、あるいはSLM向けに特化したFPGAに、より多くのオンボードROMが登場することにつながるかもしれません。