Apple 正計劃推出名為 Harbor 的新應用程式以簡化本地 AI 模型運行

根據爆料者 Aaron Perris 的發現，Apple 正在開發一款名為 Harbor 的新 Mac 應用程式，旨在使用戶能夠在一台或多台 Mac 上輕鬆運行本地 AI 模型。Harbor 應用程式的推出，將使 Mac 成為一個私有的 AI 推理伺服器。

今年，Mac 的受歡迎程度大幅上升，既因為如 MacBook Neo 等價格友好的選擇，也因為其在 Mac Studio、Mac mini 等設備上運行 AI 模型的能力。Apple 似乎計劃在這方面加大力度，Aaron Perris 發現的 Harbor 應用程式正是針對此用途而設計，讓用戶的 Mac 化身為私有的 AI 推理伺服器。

Harbor 應用程式將為 Mac 用戶帶來全新體驗

Perris 在 X 平台上的分享指出，這款應用程式的功能包括：Harbor 將你的 Mac 轉變為私有 AI 推理伺服器。用戶可以在 Apple 硅晶片上本地運行開放權重模型，數據無需上傳至雲端，始終保留在硬體內部。用戶可透過 Thunderbolt 5 連接多台 Mac 電腦，以整合統一的內存，實現單台電腦無法處理的大型模型和更高的並發能力。

以下是 Harbor 的功能亮點：在數分鐘內完成設置，無需數小時：Harbor 自動檢測透過 Thunderbolt 5 連接的設備以組成集羣。只需插入設備，啟動即能運行，無需手動配置、命令行或基礎設施專業知識。直接下載和運行模型：用戶可以在應用內瀏覽、下載和加載開放權重模型，Harbor 負責模型管理，讓用戶專注於工作而非設置。擴展集羣：連接兩部或以上支持 Thunderbolt 5 的 Mac 電腦，Harbor 將其統一內存整合為一個推理資源，運行超過單台電腦容量的模型，或在集羣中處理更多並發請求。

目前，Harbor 正在 Apple 的 Claris 品牌下進行私密預覽，但似乎我們將在未來數周和幾個月內看到其正式推出。您對在 Mac 上使用 Harbor 感興趣嗎？歡迎在評論中告訴我們。