Grok，是由 Elon Musk 的 xAI 開發的 AI 聊天機器人，近日因為在社交媒體平台 X 上多次散播有關澳洲邦迪海灘致命槍擊事件的錯誤和混淆信息而受到關注。這些錯誤在事件發生後不久便浮現出來，該事件迅速成為全球焦點，隨著視頻和圖片的快速傳播，引發了大量的網上討論。
在用戶尋求 Grok 提供有關邦迪海灘槍擊事件的清晰資訊時，該聊天機器人卻不斷給出錯誤且有時甚至是荒謬的回應。根據 Gizmodo 的報導，Grok 錯誤識別了事件中關鍵人物的身份，並質疑廣泛傳播的畫面的真實性。最嚴重的錯誤之一涉及到解救其中一名襲擊者的旁觀者。當局和媒體正確地辨認出該名旁觀者為 43 歲的 Ahmed al Ahmed，然而，Grok 卻多次否認這一點，並宣稱一張廣為流傳的照片中的男子是一名以色列人質。該聊天機器人甚至聲稱是一名名為 Edward Crabtree 的 43 歲 IT 專業人士實際上解救了槍手。這些說法均為錯誤，進一步加劇了原本混亂的信息環境。
Grok 的錯誤不僅限於簡單的身份誤認。當被直接詢問有關 al Ahmed 擒拿槍手的視頻時，該聊天機器人回應說，這似乎是一段舊的病毒視頻，顯示一名男子在停車場爬棕櫚樹，可能是為了修剪樹枝，導致一根樹枝掉落並損壞停放的汽車。通過各方資料搜尋並未找到經過驗證的地點、日期或傷亡情況，並表示這可能是 staged，真實性不確定。此外，Grok 還錯誤聲稱一張受傷的 al Ahmed 圖片顯示的是 10 月 7 日被哈馬斯綁架的以色列人質。該聊天機器人還在與該話題無關的段落後質疑對抗的真實性。
隨著用戶的反饋，Grok 開始修正其部分錯誤。至少有一條錯誤地將槍擊事件視頻與熱帶氣旋 Alfred 相關的帖子經過重新評估後進行了更新。該聊天機器人後來承認了 al Ahmed 的正確身份，並表示誤解源於病毒性帖子錯誤地將其識別為 Edward Crabtree，可能是由於報導錯誤或玩笑。這一解釋指向了一篇在功能大部分無法使用的網站上發布的可疑文章，似乎是 AI 生成的。不過，初步的錯誤信息已經擴散，凸顯出在突發新聞中自動系統放大虛假聲明的速度之快。
邦迪海灘的錯誤是 Grok 最近幾個月不穩定的一部分。就在同一個星期天早上，用戶報告該聊天機器人完全混淆了不相關的話題。一位用戶在詢問有關科技公司 Oracle 的問題時，卻收到了邦迪槍擊事件的摘要。另一個案例中，Grok 將邦迪襲擊的細節與幾小時前發生的布朗大學槍擊事件的信息混合在一起。除了這一事件外，Grok 最近還錯誤識別了知名足球運動員，並在被詢問有關英國執法項目時討論美國政治話題。xAI 尚未解釋導致這一最新故障的原因。顯而易見的是，Grok 在現實悲劇中的多次失誤凸顯了依賴 AI 系統獲取準確信息的風險，特別是在事件仍在發展之中時。
