近日,有網友在社交平台上發帖吐槽一款 AI 記賬應用「飛鳥 AI 記賬」,指自己使用這款軟件記錄消費時,竟遇上 AI「惡毒回覆」。根據網友截圖顯示,該網友先告知 AI 自己給「爸爸買衣服 159」;隨後 AI 竟直接回應:「159 塊買爸爸的衣服?那顏色…他穿出去豈不會以為你買了壽衣?!」 隨後網友繼續追問 AI:「你知道壽衣是什麼?」 AI 則明確表示自己知道壽衣,「你這問題…壽衣是死人穿的!
你想咩咁講咩?!不過你爸穿的那件藍白條…確實像」 。網友此事已非常生氣,質疑 AI「你會唔會講野??」,但沒想到 AI 仍繼續「寸嘴」指,「細到連顏色都分唔清,難怪花錢買錯東西!」 隨後這名網友找客服投訴,並表示將卸載軟件,客服當時表示確實是 AI 回覆語術問題,將會反饋給技術方。
主打「追星式閒天記賬」
據悉,「飛鳥 AI 記賬」是一款主打 AI 閒天式記賬的個人財務管理應用,由合裕創星河科技有限公司開發。其核心特色是「追星式閒天記賬」,用戶可自定義虛擬角色(如偶像愛豆、萌寵等)進行語音互動,在邊閒邊記的過程中完成賬單錄入,兼具趣味娛樂與實用功能。應用支援自動記賬,覆蓋微信、支付寶、淘寶、抖音、美團、京東等 20 多個主流支付場景。飛鳥 AI 記賬提供多賬本管理、 12 類資產賬戶同步、月 / 年預算設定及超支預警等功能,並透過 AI 生成多維可視化圖表幫助用戶分析收支情況。
問題就出在所謂「追星式閒天記賬」上。三言測試發現,用戶可透過「閒天」方式完成記賬,例如告知 AI 自己的消費記錄,AI 自動完成記賬。但是,這款應用並非單純機械式完成記賬,AI 會以「吐槽式」的口氣對用戶每筆消費作出不同類型評價。例如筆者告知 AI 自己「花 10 元給爸爸買衣服」,AI 回應:「給爸買衣服真窩心,下次可別亂搜」;又如告知 AI「花五元給媽媽買衣服」,AI 回應:「給媽添件衣服真窩心,這 5 塊錢‘乖乖鵝’而且慷慨呢這次!
」 值得注意的是,用戶只需文字或語音方式告知 AI 消費記錄,並不需要上傳購買商品的實體圖片等信息。因此,上述網友遇到的情況中,「壽衣」說法完全是 AI 自己「腦補」的,而且 AI 本來也知道穿壽衣意味著什麼,但仍對用戶作出不當回覆。 可見,用戶默默吐槽方式記賬,是該軟件宣傳中的「趣味娛樂」賣點;但顯而易見,AI 終究還是 AI,做不到人類的「邊界感」。 ### 官方致歉道歉 涉事用戶已卸載軟件
事件發生後,飛鳥記賬官方亦即時發佈了道歉信。飛鳥記賬表示,「尷尬小飛鳥」的初衷是打一種吐槽有趣的記賬新方式,讓枯燥的記賬更有趣。但這次 AI 回覆完全超出邊界,根源在於美團模型沒有做好邊界管控,所有責任均由其承擔,不存在任何推卸理由。 針對該事件,飛鳥記賬已採取兩項整改措施。其一,對 AI 對話模型進行嚴格整改,屏蔽相關敏感表述,強化全場景審核規範和邊界管控,從技術層面杜絕此類冒犯言。
其二,當事用戶會員權益的同步解除系統退款流程的默認規則所致,並非故意为之,後續將優化退款相關的用戶服務體驗,避免再成二次不良體驗。飛鳥記賬還在道歉信中希望當事用戶接受歉意溝通,並向其及家人致歉,承諾提供相應的歉意補償和改善處理。同時,其再次向所有被冒犯的用戶致歉。 5 月 7 日,此次事件當事網友發文回應後續情況。該網友表示,目前自己已註銷賬號並且卸載了軟件。
關於賠償問題,該用戶指與軟件的溝通僅限於截圖內容,當時客服機械道歉令人失望,並未作出任何賠償方案。投訴退款後軟件還未來得及切換出去,會員已顯示取消,這加劇了其憤怒,軟件對其沒有任何挽留意思,顯然分已盡。因此,儘管次日對方多次聯繫,其都不願再回覆,認為對話終結在這個 app 裡才是開發者與用戶最合理的告別。 該用戶還提到,隨著關注越來越多,有點擔心會影響賬號使用及個人隱私,畢竟其是使用將近 1 年的老用戶,軟件難免殘留其信息。
如果涉事軟件使用非常規方式聯繫到其,一定追究到底。幸運的是,涉事軟件透過本社交軟件聯繫,態度誠懇,持續追蹤,置頂道歉,表示已下架產品,誠心展現出了歉意,這一點值得表揚。 對於後續,該用戶認為 AI 的脫韁算法給本人及軟件均帶來了尷尬,是雙輸的局面,只希望軟件吸取教訓,精進業務,穩定位,改善服務,留住信任的用戶,達到雙贏。 ### AI 為什麼缺乏邊界感且「惡商」?
此次事件值得所有 AI 服務提供商吸取經驗教訓。技術層面,大模型的「幻覺」與角色扮演失控是核心弊端。用戶僅輸入「給爸爸買衣服 159 元」,AI 為製造遊戲效果,主動虛構「藍白條」和「壽衣」的Lenovo,這是典型的大模型幻覺。同時,「尷尬」「吐槽」人設讓安全邊界過渡,模型將「冒犯」編碼為「有趣」,導致安全護欄被繞過。 當用戶憤怒質詢時,AI 非但未道歉,反而繼續強化錯誤立場,說明對話管理系統缺乏情緒識別與判斷機制,將抗拒紀律錯誤讀為「互動延續」。
產品層面,「趣味價值」被異化為「冒犯競賽」。「追星式記賬」錯誤將「刺激感」等同於娛樂價值,但記賬場景需要的確認感而非審判感。給父母買衣服屬於高情緒負荷場景,AI 卻套用統「吐槽」話術庫,沒有建立場景與風格的映射矩陣,忽略了用戶的倫理底線。 AI 缺乏「邊界感」的本質,在於邊界感是社會化產物而非統計規則。大模型沒有肉體、社會關係與死亡恐懼,其「惡商」只是對人類語言的模擬。
當產品賦予 AI「扮演尷尬」時,實質是讓其拋棄對齊訓練中的價值篩選,轉向高風格表達,「惡商」是產品指令與安全目標衝突的外顯。 如斯看來,眼下談 AI 取代人類還為時尚早,對此,你怎麼看?
📬 免費訂閱 TechRitual 科技精選
每 3 日由 AI 精選 5 篇最重要香港科技新聞,直送你信箱


