加裝散熱風扇 組建廉價 AI 運算陣列
【再進化 😆】在當前全球頂級 GPU 算力供不應求且成本高昂的背景下,中國近期湧現大量「Mac mini 農場」。早前的影片中,我們看到這些農場只是拿個普通貨架來安放。但現在已經發展出「專用 Mac mini 農場機架」,可以更高密度地部署這些 Mac mini,要組建千台規模的 AI 運算叢集變得相當輕鬆。
根據最新曝光的現場畫面顯示,有中國公司正大規模引進 Apple Mac mini,透過專用機架模組加速建置千台規模的專屬算力叢集。從曝光的機房配置可見,現場採用多座標準伺服器機櫃,每座機櫃皆配置專用托盤層板。每層層板劃分為多個獨立插槽,密集直立擺放多部 Mac mini 主機,並在裝置背部加裝散熱風扇模組,以應對高密度排列下的散熱需求。
工作人員正依序將標註編號的 Mac mini 裝入機架托盤中,現場已完成數十座層架的組裝,整體規劃規模達上千台裝置。在機櫃後方,每台裝置均已接駁獨立網絡線與供電系統,並由機櫃頂部進行統一理線管理,現場環境展現出專業級機房的走線規劃。
採用 Mac mini 組建分散式運算叢集,主因在於 Apple Silicon 晶片架構具備統一記憶體(Unified Memory)優勢,在特定中小規模大型語言模型(LLM)推論、iOS 開發自動化編譯(CI/CD)及高平行運算任務中,能提供優異的每瓦效能表現。
從採購成本衡量,單張 NVIDIA H100 運算卡的市場價格,約略等同於 30 至 40 部 Mac mini 的總和。儘管單部 Mac mini 的極限算力無法與高階數據中心 GPU 相提並論,但若將 40 個節點平行運作,執行 24 小時不間斷的小型模型推論或特定代理(Agent)工作負載,同時免除公有雲端平台按量計費的龐大租賃帳單,在特定業務情境下展現出相當突出的成本效益。
然而,這類「貨架級 AI(Shelf-scale AI)」架構並非萬能;由於算力分散且頻寬受限,完全無法承擔前沿大語言模型(Frontier Model)的大規模預訓練任務,僅適用於輕量化推論或本地任務自動化。不過,在美國政府限制 AI 晶片出口中國的背景下,「Mac mini 農場」也許是低門檻自建算力的最佳選擇。