FP16、BF16、FP8、矩陣乘法效能翻倍
【RTX 40 宣告失守 😱】老黃,這就是你想要的 AI 世界了嗎?昨日才說 RTX 40 沒被破,相隔不到 12 小時就被另一位神人 JustAResearch 透過 AI 逆向工程攻破,成功解鎖 GeForce RTX 40 系列的算力限制,涵蓋 RTX 4090 至 RTX 4060 Ti 全系列產品。在無需刷寫 vBIOS 及修改驅動程式的前提下,實現了 FP16、BF16、FP8 運算甚至矩陣乘法效能最高超過 2 倍的顯著增長。
NVIDIA 為了利潤最大化,往往會將半精度浮點算力與 vGPU 功能保留給昂貴的 Quadro、Tesla 及 A 系列等資料中心或工作站級專業顯示卡。一般市售的 GeForce 遊戲顯示卡即使具備相同晶片核心,但效能與功能都被原廠在軟體層面鎖定。
根據 GitHub 開源專案「GPU-Unlock-Ada」作者表示,與前代 RTX 30 系列不同,RTX 40 系列導入了全新簽名引導韌體(Signed Boot Firmware),並額外增設四道嚴密的權限驗證關卡,導致先前的破解模組無法直接套用。
JustAResearch 指出,RTX 40 系列全線共用同一套底層引導韌體架構。新釋出的載荷能夠在作業系統驅動程式綁定顯示卡硬體前,一次性繞過這四重權限驗證。由於架構具備共用特性,只要針對 AD10x 核心的底層邏輯進行調整,便能同步通用於從旗艦級 RTX 4090 到主流級 RTX 4060 Ti 的完整產品線。
經多款顯示卡實測驗證,解除限制後的各款 Ada Lovelace 核心在深度學習與張量運算(Tensor Core)負載中展現出龐大的效能釋放,AI 矩陣運算效能最高提升 2.14 倍。
◾GeForce RTX 4090:在 FP16 / BF16 指令吞吐量方面,直接從原本的 165.6 TFLOPS 翻倍攀升至 331.6 TFLOPS。在 500W 功耗設定下執行 cuBLAS $8192^3$ 矩陣乘法運算時,TF32 算力從 77.5 TFLOPS 暴增至 165.9 TFLOPS(達 2.14 倍),目前已在至少三張不同品牌的非公版顯示卡上成功重現。
◾GeForce RTX 4080 SUPER:於 PyTorch 矩陣乘法環境測試下,FP16 運算自 110.6 TFLOPS 提升至 202.7 TFLOPS(提升 1.83 倍)。透過 mmapeak 實際量測,RTX 40 系特有的 FP8(FP32 累加)效能亦由 201.8 TFLOPS 躍升至 376.1 TFLOPS。
◾GeForce RTX 4070 Ti SUPER:在限制於 240W 功耗的情境下,FP16 / BF16 運算量由 95 TFLOPS 提高至 189.9 TFLOPS;而在 CUTLASS 4.8.1 原生 FP8 快速累加矩陣乘法測試中,更從 158.5 TFLOPS 提升到 309.1 TFLOPS(提升 1.95 倍)。驗證結果顯示,全數 322 萬個輸出單元皆維持「零位元誤差(Zero-bit difference)」,確保了運算精確度完全未受損害。
◾GeForce RTX 4060 Ti 16GB:在三卡同機的對照測試中,即便受到 182W 功耗上限限制,BF16 與 FP16 效能依舊錄得 38% 至 39% 的穩定增幅。
更重要的是,這次專案不僅在 Linux 能用,只要配搭 Hugging Face 平台上架的專屬解鎖工具(儲存庫名稱為 TOTORONG/AD103_win_unlocker),就可在 Windows 平台使用。
資料來源: