Meta 發佈開放權重人工智能模型 Muse Spark Open 並與 Apple 合作優化本地運行方案

近日,Meta 發布開放權重人工智能模型 Muse Spark Open,並宣佈與 Apple 合作,針對 Mac Studio 優化該模型的本地運行方案。根據瞭解,Muse Spark Open 擁有 8160 億個總參數,採用稀疏激活設計,每次推理實際激活的參數約為 420 億,支持長達 100 萬 Token 的上下文窗口,重點面向編程、複雜推理和 AI 代理任務。

通過兩台搭載 M5 Ultra 晶片、各配備 512GB 統一內存的 Mac Studio,用戶可在桌面環境中運行這一規模龐大的模型,不必完全依賴雲端 AI 服務。

此次合作頗為引人注目。Apple 與 Meta 過去在私隱政策、平台規則和應用生態等方面存在明顯分歧,雙方此次卻共同推動開放權重模型在 Apple 硬件上的運行。Meta 首席執行官馬克·扎克伯格感謝 Apple 首席執行官約翰·特努斯參與合作,特努斯表示,Muse Spark Open 能夠在桌面設備上高效運行,展示了 Mac Studio 在本地 AI 計算方面的潛力。

Meta 與 Apple 的合作推動了人工智能模型的本地運行

Apple Muse Spark Open 是 Meta Muse 模型系列中的開放權重版本。與只能通過遠程服務訪問的封閉模型不同,開放權重模型允許用戶獲取模型權重,並在符合許可條件的前提下自行部署,為開發者、研究人員和企業提供了更大的運行環境控制權。

在硬件層面,Meta 表示該模型經過針對 Mac Studio 的優化,可利用 Apple 晶片的統一內存架構運行。傳統獨立顯卡系統通常需要將模型權重放入顯存,而 Apple 的統一內存架構允許 CPU 與 GPU 共享同一內存池。兩台 Mac Studio 可通過相應的軟件框架協同運行,使系統擁有約 1TB 的統一內存。每台設備搭載的 M5 Ultra 晶片具有最高 1.2TB/s 的內存帶寬。

Apple 的 MLX 機器學習框架為 Apple Silicon 上的模型執行提供了支持,Meta 則針對 Muse Spark Open 進行了相應調整。

項目規格
處理器M5 Ultra
RAM512GB 統一內存
內存帶寬最高 1.2TB/s

利益聲明:本文包含合作商戶產品連結,如你透過連結購買,TechRitual 可能獲得佣金收入,但不影響產品評價及推薦。詳情請參閱私隱政策。

身為 Amazon Associate,本站會從合資格購買中賺取佣金。

Henderson
Henderson

Henderson 是 TechRitual Hong Kong 科技編輯,專注報導智能手機、消費電子產品、SIM 卡及流動通訊市場。自加入 TechRitual 以來,累計撰寫數千篇科技報導及產品評測,內容同步發佈至 SINA 及 Yahoo Tech 等主要平台。

友情網站:國際版 / TechRitual WorldThe Base Principle(AI・工程)