英偉達近日推出 Underdog 應用,旨在簡化本地 AI 模型的管理與運行。該應用專為 RTX Spark 設備設計,能透過專用推理引擎在電腦端處理 AI 任務,無需連接雲端,相關數據將保留在用戶設備中。英偉達 RTX Spark 筆記本電腦已於 10 月 16 日上市,採用基於 Arm 架構的系統級晶片並運行 Windows 系統,主要面向本地大語言模型等高負載 AI 應用。目前,華碩、戴爾、惠普、Lenovo、Microsoft 和微星均已推出相關產品,宏碁機型亦在籌備中。
據介紹,Underdog 採用針對特定模型設計的 Husky 推理引擎,用戶可直接在 RTX Spark 設備上運行本地 AI 模型。由於推理過程不依賴雲端服務,用戶數據無需上傳至外部伺服器,可降低數據離開本地設備所帶來的私隱風險。
Underdog 應用提升本地 AI 模型管理效率
英偉達還公佈了本地推理工具的性能更新。llama.cpp 現已增加針對 Qwen 3.8 Flash Next 的 MTP 推測解碼支持。在搭載 RTX Pro 6000 Blackwell 的設備上運行時,端到端智能體任務的處理速度可提升約 1.4 倍。此外,英偉達表示,Nemotron Bolt E4B 4B、GLM、DeepSeek、Qwen、MiniMax 以及 FLUX 3 Klein 擴散模型將獲得首發支持。
這意味著相關模型發布後即可在適配設備上使用,用戶無需等待後續兼容更新。Underdog 與上述支持計劃進一步完善了 RTX Spark 設備的本地 AI 軟件環境。
利益聲明:本文包含合作商戶產品連結,如你透過連結購買,TechRitual 可能獲得佣金收入,但不影響產品評價及推薦。詳情請參閱私隱政策。
身為 Amazon Associate,本站會從合資格購買中賺取佣金。

