ArXiv 是一個廣泛使用的開放預印本研究庫，正加強對於在科學論文中不當使用大型語言模型的打擊。儘管論文在經過同行評審之前便會上傳至該網站，ArXiv（發音為「archive」）已成為計算機科學和數學等領域研究流通的主要平台，該網站本身也成為了科學研究趨勢的數據來源。ArXiv 已經採取措施應對日益增長的低質量 AI 生成論文，例如要求首次投稿者獲得已建立作者的背書。
在被康奈爾大學主辦超過 20 年後，該組織正在轉型為獨立的非營利機構，這應該能夠讓其籌集更多資金來解決 AI 生成內容的問題。 在其最新的舉措中，ArXiv 計算機科學部門主席 Thomas Dietterich 在星期四發表聲明指出，「如果一份提交包含不可辯駁的證據顯示作者未檢查 LLM 生成的結果，這意味著我們無法信任該論文中的任何內容。」這些不可辯駁的證據可能包括「虛構的引用」以及與 LLM 的對話或回應，Dietterich 表示。
如果發現此類證據，該論文的作者將面臨「一年的禁令，隨後需要在有聲譽的同行評審平台上獲得接受才能再次提交至 ArXiv。」需要注意的是，這並不是對使用 LLM 的全面禁止，而是強調作者必須對內容承擔「全部責任」，正如 Dietterich 所言，「無論內容是如何生成的。」 因此，如果研究人員直接從 LLM 複製粘貼「不當的語言、抄襲的內容、偏見的內容、錯誤、失誤、不正確的引用或誤導性內容」，他們仍然必須承擔責任。
Dietterich 對 404 Media 表示，這將是一項「一次違規」的規則，但管理員必須標記問題，並且部門主席必須確認證據，才可施加懲罰。作者也將能夠對此決定提出上訴。最近的同行評審研究發現，生物醫學研究中的虛構引用數量正在上升，這可能與 LLM 有關，儘管公平地説，科學家並不是唯一被發現使用 AI 編造的引用的人。
