VRAM 容量不足時直接使用 SSD 空間
【虛擬 VRAM 🤪】NVIDIA 近日在 Black 大會上宣佈，正式開放 GPU 儲存直通技術（Storage Direct-through）的 cuFile API 原始碼及其底層儲存軟體堆疊（Storage Software Stack），允許 NVMe SSD 固態硬碟直接充當擴充顯示記憶體，以緩解硬體顯存容量不足所產生的效能瓶頸，進一步提升整體運算執行表現。
cuFile API 為 NVIDIA GPUDirect Storage（GDS）技術的核心應用程式介面，主要負責為應用程式提供呼叫 GPU 直連儲存裝置的能力。其運作目標是在毫秒甚至微秒級別的時間內，將儲存資料直接傳輸至 GPU，大幅縮短傳統資料存取與搬移的路徑，運作效率堪比系統記憶體。
在傳統電腦運算架構中，SSD 內的資料必須先經由 CPU 處理並載入系統主記憶體（RAM）進行臨時快取，最後才複製到顯示卡上的板載顯示記憶體（VRAM）中，傳輸流程相當繁瑣。
cuFile API 容許 GPU 繞過 CPU、System Memory 和 Video Memory，直接從 SSD 讀取壓縮資料，並在 GPU 內部完成即時解壓縮，無須消耗 CPU 資源與記憶體頻寬，有效降低資料傳輸延遲並顯著提升吞吐效率。
NVIDIA 指出，當顯示卡板載的實體顯存（VRAM）耗盡時，GPU 即可直接存取速度較慢但容量極大的 NVMe SSD，將其作為「後備顯存」使用。這對於極度消耗 VRAM 資源的運算而言，能有效避免因顯存溢出（Out of Memory）而導致的程式崩潰。
業界認為，此舉反映出 NVIDIA 在面對日益激增的顯示記憶體容量需求與硬體生產成本之間的矛盾時，正積極從軟體架構與系統最佳化（Optimization）層面尋求創新突破，為使用者提供更具彈性的效能解決方案。
資料來源:
