SKハイニックス、NVIDIAのAIサーバ向け192GB「SOCAMM2」の量産を開始

SK hynixは、次世代AIサーバーを対象とした192GBのSOCAMM2メモリモジュールの量産をようやく開始しました。これは、現代のAIシステムにおける最大級のボトルネックのひとつを基本的に解消しようとしているものです。従来のサーバー用RAMの代わりに、スマホなどで見かけるLPDDR5Xを使用しており、RDIMMと比べて消費電力を75%以上削減しながら、帯域幅を2倍以上まで引き上げることができます。さらに、NVIDIAの次期「Vera Rubin」プラットフォーム向けに特別に作り込まれているため、これは巨大なAIトレーニング負荷に“餌を与える”ためのものだということが分かります。GPUは注目を集めがちですが、メモリがすぐに本当の制限要因になりつつあり、これは業界の向かう方向がかなり明確に変わってきたと感じさせます。