Google Translate 最近推出的進階模式，憑藉人工智能技術提升翻譯準確性，除了單純翻譯文本外，還有用戶發現它能與人進行對話，這既令人感到有趣，也稍顯擔憂。
這個問題源於進階模式的運作方式。Google 在此功能中加入了基於 Gemini 的大型語言模型，以更準確地處理成語、語氣及對話語言。這相較於以前的統計系統是一項顯著的改進。不過，進階模式本來是希望改善俚語、成語及對話流暢度，而非像聊天機器人般運作。
這一故障主要出現在翻譯某些語言時，例如中文或日文，並且僅在進階模式下發生。如果用戶切換回傳統模式，則可以避免這些類似聊天機器人的回應。了解提示注入的概念有助於理解這種行為。現代大型語言模型不總是能將指令與所處理的內容分開，因此良好表達的輸入可能會覆蓋系統指令，使其表現得像通用人工智能。
LessWrong 進行了一項非正式的技術調查，確認了 Google Translate 的進階模式實際上是一種遵循指令的大型語言模型，這解釋了其行為。雖然 Google 尚未公開解決此問題，但除了部分好奇的測試及社交媒體的分享，這個問題似乎並未造成實質的危害。
若想要可靠的翻譯結果而不出現意外情況，建議在 Google 修復此問題之前，使用傳統模式進行翻譯。
