AI(人工知能)ブームとともに広がっていた「半導体メモリー需要は青天井」という見方に疑問符が付いた。きっかけは、米Google(グーグル)のデータ圧縮技術「TurboQuant(ターボクアント)」だ。今後、普及すると見られているAIの推論処理において必要なメモリー量を削減できるからである。
近年はメモリーの重要性が一段と高まっている。生成AIが普及したことで、演算用半導体よりもメモリーにデータを出し入れする速さやメモリー容量がボトルネックになりつつある。その一つが「KVキャッシュ」と呼ぶメモリー領域である。
TurboQuantは、情報の精度を保ちつつ、必要とするKVキャッシュの容量を大幅に減らせる。その結果、メモリー需要は今後それほど増えないのではないかという見方が広がり、メモリーメーカーの株価が一時大きく下がった。
記者はこの見方に反対だ。むしろ、TurboQuantのようなデータ圧縮技術によってメモリー需要が拡大すると考えている。
次のページ
効率化は新たな需要を生むこの記事は会員登録で続きをご覧いただけます





