隨著 AI 模型日益商品化，初創公司們正競相打造在其之上的軟件層。一個有趣的參與者是 Osaurus，一個開源的 Apple 專用 LLM 伺服器，允許用户在本地或雲端之間切換不同的本地 AI 模型，同時將他們的文件和工具保留在自己的硬件上。Osaurus 源於一個桌面 AI 伴侶 Dinoki 的構思，Osaurus 的聯合創始人 Terence Pae 將其形容為一種“AI 驅動的 Clippy”。
Dinoki 的客户曾問他，既然還需要支付 token——AI 公司收取的處理提示和生成回應的使用單位，那麼為什麼要購買這款應用。這讓 Pae 更深入地思考如何在本地運行 AI。“這就是 Osaurus 的起點，”Pae 之前曾在 Tesla 和 Netflix 擔任軟件工程師，他在與 TechCrunch 的通話中表示。他解釋説，這個想法是嘗試在本地運行 AI 助手。
“你可以在你的 Mac 上本地完成幾乎所有事情，比如瀏覽文件、訪問瀏覽器、訪問系統配置。我認為這是一個很好的方式來將 Osaurus 定位為個人 AI。”Pae 開始作為開源項目公開構建這個工具，並在過程中添加功能和修復錯誤。 如今，Osaurus 可以靈活地與本地託管的 AI 模型或雲端提供商（如 OpenAI 和 Anthropic）連接。用户可以自由選擇使用的 AI 模型，並將 AI 體驗的其他方面（如模型的內存或他們的文件和工具）保留在自己的硬件上。
鑑於不同的 AI 模型具有不同的優勢，這個系統的好處在於用户可以切換到最符合其需求的 AI 模型。這樣的結構使 Osaurus 成為所謂的“控制層”——通過單一界面連接不同 AI 模型、工具和工作流程，類似於 OpenClaw 或 Hermes 等工具。然而，這些工具通常針對熟悉終端的開發者，有時像 OpenClaw 的情況可能會帶來安全問題和漏洞。相比之下，Osaurus 提供了一個易於使用的界面，消費者可以使用，並通過在硬件隔離的虛擬沙箱中運行來解決安全問題。
這限制了 AI 的某些範圍，從而保護你的電腦和數據。 當然，在你的機器上運行 AI 模型的做法仍處於早期階段，因為這非常耗資源且依賴於硬件。要運行本地模型，你的系統至少需要 64 GB 的 RAM。對於運行更大的模型，如 DeepSeek v4，Pae 建議使用約 128 GB 的 RAM 的系統。但 Pae 認為，隨著時間的推移，本地 AI 的需求將會下降。
“我可以看到這方面的潛力，因為每瓦特的智能——這就像是本地 AI 的指標——已經顯著上升。這在它自己的創新曲線上。去年，本地 AI 幾乎無法完成句子，但今天它實際上可以運行工具、編寫代碼、訪問瀏覽器，並從Amazon訂購東西……它只會變得越來越好，”他説。 Osaurus 現在可以運行 MiniMax M2.5、Gemma 4、Qwen3.6、GPT-OSS、Llama、DeepSeek V4 等模型。
它還支持 Apple 的本地基礎模型、Liquid AI 的 LFM 系列本地模型，並且在雲端可以連接到 OpenAI、Anthropic、Gemini、xAI/Grok、Venice AI、OpenRouter、Ollama 和 LM Studio。作為一個完整的 MCP（模型上下文協議）伺服器，你也可以給予任何 MCP 兼容的客户端訪問你的工具。此外，Osaurus 附帶超過 20 個原生插件，涵蓋郵件、日曆、視覺、macOS 使用、XLSX、PPTX、瀏覽器、音樂、Git、文件系統、搜索、
提取等功能。最近，Osaurus 的更新還包括語音功能。根據其網站，自該項目於將近一年前上線以來，下載量已超過 112,000 次。目前，Osaurus 的創始人（包括聯合創始人 Sam Yoo）正在參加位於紐約的初創公司加速器 Alliance。他們也在考慮下一步，可能會將 Osaurus 提供給法律或醫療等行業的企業，在這些行業中運行本地 LLM 可以解決隱私問題。
隨著本地 AI 模型的能力增強，團隊認為這可能會降低對 AI 數據中心的需求。“我們看到 AI 領域的爆炸性增長，其中[雲 AI 供應商]必須通過數據中心和基礎設施來擴展，但我們覺得人們還未真正看到本地 AI 的價值，”Pae 説。“與其依賴雲端，他們實際上可以在現場部署一台 Mac Studio，並且應該使用更少的電力。你仍然擁有雲的能力，但不必依賴數據中心來運行那個 AI，”他補充道。
