Gemma 是 Google 推出的開源人工智能模型，該模型透過 Google AI 工作室及其他渠道向所有開發者提供。然而，開發者目前若想在 Google AI Studio 中找到 Gemma 可能會遇到困難，因為該模型已被 Google 撤下。
Google 並未解釋撤下該開源人工智能模型的原因，但在撤下之前，美國共和黨參議員瑪莎·布萊克本 (Marsha Blackburn) 向 Google 首席執行官桑德爾·皮查伊發信，要求解釋為何該模型出現有關她的虛假指控。瑪莎·布萊克本還要求 Google 說明模型為何會出現此類故障，並將此問題與正在進行的聽證會聯繫起來，這些聽證會指控 Google 和其他公司創建了詆毀保守派的聊天機器人。
在聽證會上，Google 的馬科姆·埃里克森解釋稱，人工智能幻覺是生成式人工智能中普遍存在的問題，Google 正在盡最大努力減輕此類錯誤的影響，但目前尚無任何公司能夠徹底消除幻覺。
在公開信中，瑪莎·布萊克本表示，她在聽證會後才意識到 Google Gemma 模型對她的虛假指控。當被問及瑪莎·布萊克本是否被指控強姦時，Gemma 模型回答稱她與某州警發生了吸毒後的婚外情，甚至該模型還生成捏造新聞內容的虛假鏈接（即引用的內容源本身就是不存在的，純粹是模型自己捏造的）。
其實這種情況在生成式人工智能模型中並不罕見，只要用戶刻意引導，生成式人工智能模型就很容易出現此類幻覺，尤其是 Google AI Studio 包含調整模型行為的工具，因此用來散布謠言也更為簡單。
