OpenAI 將會為「學校」識別 AI 作弊的解決方案,但不是 100%

對於熱門人工智能(AI)聊天機械人ChatGPT可能被用於考試作弊的擔憂,其背後開發公司OpenAI SEO 薩姆·阿爾特曼(Sam Altman)做出回應。阿爾特曼在接受採訪時表示,OpenAI將開發出幫助學校識別AI作弊的方法。

但他警告稱,不能保證完全檢測到作弊行為。阿爾特曼稱:“我們打算在短期內嘗試做些事情,也許有些方法可以幫助學校更容易發現類似ChatGPT系統作弊行為。但老實說,有些人可能會找到繞過檢測的方法。”

他補充說:“長期以來,人們一直在將新技術融入他們的生活以及課堂中,這些技術只會對用戶產生更積極的影響。例如,生成性文本是我們都需要適應的東西。我想,我們適應了計算器,改變了我們在數學課上測試的內容。毫無疑問,ChatGPT是更極端的技術,但它帶來的好處也更大。”

在阿爾特曼發表上述言論之前,紐約市教育部和西雅圖公立學校系統禁止學生和教師使用ChatGPT,以防止抄襲和作弊。這些禁令引發了關於AI如何改變教育狀況和學生學習方式的討論,尤其是在教師群體中。阿爾特曼說:“我明白為甚麼教育工作者會有這樣的感受,不久後我們可能在許多其他領域也看到同樣的情況。”

阿爾特曼表示,儘管OpenAI已經從部分老師那裏聽說了ChatGPT對學生家庭作業等方面的影響,但也有很多老師認為,聊天機械人可以成為“每個孩子最稱職的私人家教”。

事實上,阿爾特曼認為使用ChatGPT可以是一種更吸引人的學習方式。他說:“我自己也用它來學習新東西,並發現它比其他學習方式更有吸引力。我寧願讓ChatGPT教我學東西,而不是去讀課本。”

阿爾特曼稱,OpenAI將嘗試水印技術和其他技術來標記ChatGPT生成的內容,但他警告學校和國家政策制定者避免依賴這些工具。阿爾特曼說:“從根本上說,我認為它不可能做到完美。人們需要弄清楚他們需要修改多少文本,當然還會有其他東西修改輸出的文本。”

鑑於ChatGPT變得越來越流行,阿爾特曼認為世界必須適應生成式AI的出現。隨着時間的推移,技術將不斷改進,以防止意想不到的後果。他說:“這是一個不斷變化的世界,我們都要學會適應。我認為這樣會更好。我們不想再回到過去。”


此文章發佈於 TechRitual 香港