將網域內所有閒置電腦整合 用來跑 AI 運算
【下載來試試 ✅】NVIDIA 3 日於柏林國際消費電子展(IFA 2026)上,正式發布名為「Personal AI Router」(PAIR)的免費開源軟體工具。該軟體能自動整合同一區域網絡(LAN)內的閒置電腦設備,構建分散式 AI 推理運算叢集,支援包括擁有 RTX 20 / 30 / 40 / 50 系列、RTX Pro 系列 GPU 的 PC 裝置、DGX Spark 系統,以及搭載 Apple M4 或以上的 Mac 電腦。
據 NVIDIA 指出,隨著本地 AI 推理(Local Inference)應用日益普及,許多用家習慣在個人電腦上運行本地 AI 模型。然而,即使是高階 GPU 也未必能滿足多個 AI 代理同時運作時的算力需求。
因此,NVIDIA 提出 PAIR 開源專案,能將 AI 推理運算負載分配至區域網絡(LAN)內的各個可用裝置,利用這些閒置裝置的算力,大大提升 AI 推理效率,讓辦公室及學校電腦室變身成 AI 推理運算叢集。
NVIDIA PAIR 軟體能自動掃描並識別區域網絡內的所有相容裝置,快速完成跨裝置連接與配對。PAIR 會依據各裝置的即時負載狀況,將工作動態分流至當前有空閒算力的電腦;若網絡中有裝置斷線,系統亦能即時自我調整與重新導向。
NVIDIA 在 IFA 現場實測了包含 5 個子代理的複雜 AI 任務。原本在單一部筆記簿型電腦上執行需耗時 18 分鐘,但在啟用 PAIR 將運算負載分散至網絡內其他閒置裝置後,處理時間大幅縮短至 9 分鐘以內。
目前,NVIDIA PAIR 已支援包括 Ollama 以及 LM Studio 等主流本地化大語言模型(LLM)執行環境,方便開發者與用家直接導入現有工作流程。NVIDIA PAIR Beta 測試版本已於 9 月 3 日正式上線,全面支援 Windows、Linux 以及 macOS 等主流作業系統,大家可以到 NVIDIA PAIR 官方網站下載。
資料來源: