【笑死 ... 😂】Google 於 25 日在毫無預警下發布全新 AI 記憶體壓縮技術「TurboQuant」，聲稱能大幅減少 AI 模型在推理時的記憶體使用量最高可減少 6 倍、推理速度提升 8 倍，並且「零精準度損失」。消息傳出後，三大記憶體晶片大廠股價大跌，投資者憂慮 Google 的技術會令 DRAM 需求降溫。

 

據 Google 指出，TurboQuant 是一種能在不影響效能的情況下，大幅縮減 AI 工作記憶體使用量的演算法。AI 模型在運行時需要 Key-Value Cache（KV 快取），每當處理資訊、產生答案時，KV Cache 會迅速膨脹，而且上下文視窗越長，佔用的記憶體容量就越大。

 

TurboQuant 採用向量量化針對 KV Cache 進行壓縮。為保持資訊準確性，Google 成功研發兩項關鍵技術：「PolarQuant」量化演算法與「QJL」訓練最佳化演算法。研究團隊計劃於下月在 ICLR 2026 大會上正式發表相關成果。

 

Google 提供的數據顯示，TurboQuant 無需任何預訓練或微調，即可將 KV Cache 高效壓縮至 3 bit，相較於未量化的 32 位元鍵值，記憶體使用量最高減少 6 倍、推理速度提升 8 倍，並且「零精準度損失」。

 

消息傳出後，Samsung 股價跌 4.8%、SK Hynix 股價跌 5.9%、Micron 股價跌 3.4%。儘管華爾街投行認為先進壓縮技術僅能暫時緩解瓶頸，並不會改變 DRAM 與快閃記憶體的長期需求趨勢，但投資者仍擔心 Google 的技術會導致 DRAM 需求降溫。

 

三大 DRAM 廠應該沒想到，Google 會搞出這樣的黑科技出來吧。

 

 

 

資料來源:

 

• TurboQuant: Redefining AI efficiency with extreme compression