前沿智慧正邁向本地端。NVIDIA、Microsoft與合作夥伴於IFA 2026攜手推出更快速的推論技術與全新工具，讓代理更容易在NVIDIA硬體上完成設定並於本地執行。全新精巧型NVIDIA RTX Spark Windows PC也將於2026年10月登場，為AI愛好者、開發者與創作者提供更多選擇，讓功能強大的代理也能在本地安全運行。
本次重點包括
- Hermes Agent、OpenClaw與Perplexity Portable Computer即將支援更簡便的NVIDIA GPU本地AI設定方式。
- 本地推論效能最高提升1.9倍：全新llama.cpp與vLLM最佳化現已推出，可直接使用，亦可透過LM Studio與Ollama使用。
- NVIDIA PAIR：一項個人AI路由器工具，可在使用者區域網路中的多台PC之間智慧分配AI推論工作負載。
- NVIDIA RTX Spark將於10月登場：Lenovo與Acer將推出全新Windows PC。Electronic Arts、Embark與Ubisoft也是最新一批將旗下遊戲大作帶上NVIDIA RTX Spark的遊戲發行商與開發商。
讓本地代理程式更輕鬆上手
過去，要搭配本地模型啟動並執行本地代理程式並不容易，包括選擇模型、尋找相容的推論伺服器、調整量化設定，以及持續將所有元件維持在最新狀態。如今，這些在RTX與DGX系統上的使用門檻正逐步消失。三款普及率極高的代理應用程式將在Windows上提供更簡便的本地模型設定方式。三者皆以llama.cpp為基礎，並整合NVIDIA最新推論最佳化技術。全新設定體驗可減少手動設定步驟，讓本地代理程式更容易啟動與執行。
更快的推論效能 全方位提升本地代理體驗
推論效能是維持本地代理即時反應的關鍵。NVIDIA持續與開源llama.cpp與vLLM社群合作，加速NVIDIA各款本地平台上的代理AI工作負載。
- 透過GeForce RTX 5090上的核心最佳化、強化的推測式解碼技術與更快速的預填充，llama.cpp的吞吐量最高可提升1.9倍。
- vLLM在RTX PRO 6000 Blackwell工作站版本上可達1.2倍效能，在兩個DGX Spark叢集上則最高可達1.4倍。FlashInfer全新的XQA注意力核心與後端最佳化，也有助於加速這兩個平台上的推論。
善用閒置PC透過NVIDIA PAIR擴充本地AI運算資源
超過半數美國家庭擁有兩台以上PC，而其中許多運算資源在一天中的大部分時間都處於閒置狀態。NVIDIA Personal AI Router（PAIR）是一項免費的開源軟體工具，可讓這些系統協同運作，共同處理本地AI工作負載。代理工作流程通常會將複雜工作拆分成多個可平行執行的小型工作，但當所有要求都爭用同一顆GPU時，效能便可能下降。PAIR會自動偵測區域網路中的相容PC，並將彼此獨立的推論要求路由至仍有可用運算資源的系統。
NVIDIA RTX Spark Windows PC將於2026年10月登場
NVIDIA RTX Spark將於今年10月推出，合作夥伴也於IFA 2026展示最新硬體。此次新公布的設計將加入現有六家OEM廠商的陣容，並預計於10月出貨。Acer展示精巧桌上型RTX Spark概念設計，Lenovo則公布Yoga Pro 9n與Yoga 9n 2-in-1。RTX Spark為Windows PC開啟全新篇章，一台PC即可滿足創作者、玩家與AI代理的需求。RTX Spark搭載效能強大的1 Petaflop RTX Blackwell GPU、最高128GB統一記憶體，以及高效率20核心Grace CPU，帶來出色的效能與能源效率。
玩家總結
NVIDIA於IFA 2026大秀AI肌肉，透過推出NVIDIA PAIR、簡化本地代理程式設定（如Perplexity、Hermes Agent與OpenClaw），以及全面提升llama.cpp與vLLM的推論效能，讓玩家與創作者能更輕鬆在本地端運用AI。此外，搭載1 Petaflop RTX Blackwell GPU的全新NVIDIA RTX Spark Windows PC也確定於10月正式登場，結合各大遊戲發行商的支援，為本地AI與次世代遊戲體驗揭開全新序幕。
延伸閱讀：
淘寶99購物節全面開跑！鎖定開學外宿潮助攻租屋改造 全站最低77折起再抽AirPods與Marshall藍牙喇叭
9月出遊攻略！格上共享車導入Mitsubishi XFORCE新車限時85折起、租車優惠最高1450元
創作者全新神器！全球首款個人3D紋理UV印刷機「eufyMake E1」募資破14億元、支援逾300種材質
雲豹娛樂宣布《我想成為影之強者！Phantom Echoes》繁中版確定於2027年與日本同步發售
