除了 Google AI Edge Gallery 允許用户在其 Mac 上本地運行 Gemma 模型外，該公司還推出了 Gemma 4 12B 模型及 Google AI Edge Eloquent 轉錄應用程式。以下是詳細資訊。
背景資料顯示，大多數依賴大型語言模型 (LLMs) 進行日常任務的用户，通常使用 ChatGPT、Claude 或 Gemini，這些都是運行於 OpenAI、Anthropic 和 Google 伺服器的雲端模型。另一種與 LLMs 互動的方式是透過本地模型。這些模型通常較小且能力不及在雲端運行的萬億參數模型，但它們也具有若干優勢。例如，能力較弱並不意味著它們的表現差。
此外，這些本地模型不需要持續的互聯網連接，因為它們使用電腦自身的處理能力運行。電腦性能越佳，響應速度越快，能夠處理的模型也越大。最後，由於一切均在本地運行，這些模型的隱私性更高，因為對話數據無需離開設備。
在 Mac 上安裝本地模型的方法有幾種，當 OpenAI 發布其開放模型時，我們曾經詳細報導過。簡而言之，用户需要安裝如 Ollama 和 LM Studio 等平台，然後安裝能夠順利運行於 Mac 硬件上的模型。Hugging Face 提供數千個開放模型供選擇，包括前沿實驗室的模型。然而，Ollama 和 LM Studio 也提供直接從其平台安裝這些模型的方式。
這也引出了 Google AI Edge Gallery，Google 用於本地運行 AI 模型的平台。Google 之前已針對 Android 和 iOS 提供了 Google AI Edge Gallery 應用程式，今天則首次推出了 macOS 版本。
Google AI Edge Gallery 和 Gemma 4 12B 的功能
需要注意的是，與 Ollama 和 LM Studio 允許用户安裝任何兼容硬件的 AI 模型不同，Google AI Edge Gallery 目前僅提供五個 Google 自家模型的存取權，這些模型是訓練來遵循用户指令而非僅僅完成文本的：Gemma-4-12B-it、Gemma-4-E2B-it、Gemma-4-E4B-it、Gemma-3n-E2B-it 和 Gemma-3n-E4B-it。
其中，Gemma 4 12B 特別引人注目，該模型今天發佈，旨在將智能、多模態能力直接帶入用户的筆記本電腦。根據 Google 的説法，儘管大多數面向消費者的本地模型的參數數量通常在 20 億至 90 億之間，但 Gemma 4 的 120 億參數設計提供的性能可以與其 260 億參數的專家混合模型相媲美，同時仍然「足夠小，可以在擁有 16GB RAM 的消費者筆記本電腦上運行」。
Gemma 4 12B 亦具備多模態功能，意味著它能夠處理文本、視覺和音頻。Google 表示，該模型還具備良好的編程能力，讓用户可以直接在設備上提取數據的有意義見解。
用户可以在這裡瞭解更多有關 Google AI Edge Gallery 的資訊，而關於 Gemma 4 12B 的詳細資料亦可在此查詢。
Google AI Edge Eloquent 的推出
除了 Gemma 12B 和 Google AI Edge Gallery 在 macOS 上的發佈外，Google 今日亦推出了 Google AI Edge Eloquent 應用程式，幾個月前該應用已經在 iOS 上上線。Google AI Edge Eloquent 是一款免費的轉錄應用程式，能夠捕捉用户的語音並進行轉寫，並在此過程中對文本進行潤飾，去除不流暢的表達，並進行輕微編輯以提升清晰度和流暢性。
該應用的處理是在設備本地進行，而非雲端。用户還可以選擇不同的寫作風格，並添加自定義詞彙，如姓名、術語及其他常用詞彙，幫助避免轉錄應用程序在特定詞彙和短語上出現的頻繁錯誤。
有關 Google AI Edge Eloquent 的更多資訊，請參見此處。
項目 規格 處理器 Gemma 4 12B RAM 16GB 參數數量 120 億
