LM Studio 更新 Locally 應用程式 允許 iPhone 用户與 Mac 上的本地 LLM 進行對話

LM Studio 的 Locally 應用程式今日進行更新,新增名為 Link 的功能,使用户可以直接從 iPhone 與運行於其 Mac 上的 LLM 進行對話。以下為詳細資訊。

LM Link 使您能夠與 Mac 上的本地 LLM 進行對話。LM Studio 是我運行本地 LLM 的首選 Mac 應用程式。其模型搜索功能能夠有效尋找最適合我 16GB M2 Pro MacBook Pro 硬件的 AI 模型,避免選擇那些對我的設備要求過高的模型。一旦模型安裝完成,LM Studio 提供的性能調整工具無疑是我使用過最簡便且全面的選擇。

今日,LM Studio 正在更新其 Mac 應用程式及其 iOS 應用程式 Locally AI(該公司於今年早些時候收購),推出名為 LM Link 的新功能。

LM Link 提供安全的設備連接功能

LM Link 建立了一個安全的連接,讓用户能夠從 iPhone 上直接與運行於 Mac 上的本地模型進行互動。使用 LM Link 需要在兩個設備上創建並登錄 LM Studio 帳户。完成這一過程後,啟用 LM Link 將建立一個端到端加密的連接,確保數據的私密性與安全性。這意味著即使在使用 iPhone 發送和接收數據的過程中,您仍然可以依賴於在 Mac 上本地運行和處理 LLM 的隱私性。

根據 LM Studio 的説法,您的設備已經彼此鏈接。所有設備之間的數據與通信完全私密且安全。由於 LM Link 在自定義的 Tailscale 網狀 VPN 上運行,因此您的設備不會暴露於公共互聯網上。LM Studio 在 Tailscale 的合作中表示,「LM Link 是 Tailscale VPN 原語的一個獨立且自包含的應用」,這意味著 LM Link 不會干擾現有的 Tailscale VPN(如果有的話)。

LM Link 支持用户在 Mac 上安裝的任何模型(包括內置的 Apple Intelligence 基礎模型),性能依賴於 Mac 的硬件,與任何本地模型相同。

最後,LM Studio 表示,在預覽期間,LM Link 將免費提供。其後,除了免費計劃外,該公司將推出付費計劃,具體詳情尚待公佈。

根據 9to5Mac 的看法,我在使用 LM Link 的幾天裡,體驗非常良好。我依賴本地 LLM 來處理工作流程中的特定部分,能夠在外出時使用 iPhone 完成這部分工作,無疑是一次很好的補充。如果您發現當 iPhone 應用在背景運行一段時間後,連接掉線的速度過快(例如,當您離開 Locally AI 的聊天界面以查找文檔或進行快速的網絡搜索,然後再返回 Locally AI),我也注意到了這一點。

開發者告訴我,這是建立安全連接的一個副產品。不過,他們正在努力改善延遲,以便更快地重新連接並延長連接的持續時間。

LM Link 是一項出色的功能,如果您依賴於本地運行於 Mac 的模型,應該試試這個功能。同樣,如果您一直在考慮使用本地模型,現在也是最佳時機,特別是在 Google 昨日推出了一個設計用於在內存 16GB 或以上的 Mac 上運行的 120 億參數版本的 Gemma 4 之後。

項目規格
處理器M2 Pro
RAM16GB

Henderson
Henderson

Henderson 是 TechRitual Hong Kong 科技編輯,專注報導智能手機、消費電子產品、SIM 卡及流動通訊市場。自加入 TechRitual 以來,累計撰寫數千篇科技報導及產品評測,內容同步發佈至 SINA 及 Yahoo Tech 等主要平台。