組建 54GB VRAM 容量的本地 AI 平台
【僅 35 美元 😱】隨著加密貨幣挖礦潮退去，大量二手礦渣硬體流入市場，成為平價建構 AI 運算平台的出路。近日一名海外玩家在二手拍賣平台以極低價 3,000 盧布（約合 35 美元 / 270 港元 / 1,120 新台幣），購入一台配置 9 張顯示卡的舊款礦機，以高達 54GB VRAM 的配置成功在本地環境部署大型語言模型（LLM），為預算有限的技術愛好者展示了一套高性價比的另類解決方案。
據 Reddit 論壇用戶 markpronkin 分享，他於俄羅斯知名分類交易網站 Avito 發現這組 9 卡挖礦主機。賣家原先開價 5,000 盧布（約 60 美元），經交涉後最終以 3,000 盧布成交。整套設備核心為 9 張 NVIDIA P106 專用礦卡（架構相當於 GeForce GTX 1060 的無顯示輸出版本），每張顯示卡配備 6GB VRAM，全機累計提供 54GB 的龐大顯示記憶體空間。
由於 NVIDIA P106 沒有顯示輸出，在二手市場近乎無人問津，但卻可以用來運行本地 LLM 模型。測試結果顯示，在執行 Qwen3.6 35B-A3B 等級模型時，該平台可達到每秒生成 30 個以上 Token（>30 tokens/s）的處理速度；加上他目前居住的宿舍享有免電費優勢，運作時的高能耗並未構成維護成本負擔。
他指出，儘管 54GB 顯示記憶體足以支援 8-bit 量化的 27B 級模型，甚至透過 4-bit 或 5-bit 量化載入高達 70B 參數的超大型模型，但將舊型礦機應用於現代 AI 運算仍存在顯著的架構瓶頸，例如 P106 並沒有專門針對張量運算設計的 Tensor Core，且僅支援 PCIe 3.0 x1 介面等等。不過以 35 美元取得 54GB VRAM 的運算平台，依然是一次極具創意的低成本硬體再利用範例。
資料來源:
