美國東部時間3月26日，存儲芯片股集體重挫，閃迪跌超11%，希捷跌逾8%，超威半導(dǎo)體、西部數(shù)據(jù)跌逾7%，美光科技跌近7%。

業(yè)內(nèi)人士分析，這一波動源自谷歌研究院即將在國際學(xué)習(xí)表征會議（ICLR 2026）上正式亮相的學(xué)術(shù)論文，該研究推出了一種新型AI內(nèi)存壓縮技術(shù)“TurboQuant”。

谷歌宣稱，該技術(shù)可將大語言模型推理中的緩存內(nèi)存占用壓縮至六分之一，并在英偉達(dá)H100 GPU上實現(xiàn)最高8倍的性能加速。

AI模型運(yùn)行時存在一種“工作內(nèi)存”，即KV緩存（Key-Value Cache）。每當(dāng)模型處理信息、生成回答時，KV緩存便會迅速膨脹，且上下文窗口越長，緩存占用的內(nèi)存越大。

TurboQuant本質(zhì)上是一種極致的量化壓縮算法，傳統(tǒng)量化方法需要在壓縮精度和額外存儲開銷之間妥協(xié)，而谷歌團(tuán)隊通過PolarQuant（極坐標(biāo)量化）和QJL（量化JL變換）兩項創(chuàng)新，實現(xiàn)了在“零損失”前提下將KV緩存壓縮至3-bit精度。

Cloudflare首席執(zhí)行官將這一成果稱為谷歌的“DeepSeek時刻”，認(rèn)為其有望像DeepSeek一樣，通過極致效率大幅拉低AI的運(yùn)行成本。

不過，摩根士丹利在最新研報中指出，市場對此存在誤讀。該技術(shù)僅作用于推理階段的鍵值緩存，并不影響模型權(quán)重所占用的高帶寬內(nèi)存（HBM），也與AI訓(xùn)練任務(wù)無關(guān)。

分析師強(qiáng)調(diào)，所謂的“6倍壓縮”并非存儲總需求的減少，而是通過效率提升增加單GPU的吞吐量。這意味著在相同硬件條件下，可以支持4倍至8倍更長的上下文，或在不觸發(fā)內(nèi)存溢出的前提下顯著提升批處理規(guī)模。

目前，谷歌尚未公布TurboQuant在Gemini等自研模型中的具體部署時間表，研究團(tuán)隊計劃在下個月的ICLR 2026會議上正式發(fā)布相關(guān)成果。