1月25日，科隆大學(xué)植物科學(xué)教授馬塞爾·布赫在《自然》雜志專欄中分享了他對ChatGP的使用體驗。布赫教授關(guān)閉了ChatGPT的“數(shù)據(jù)授權(quán)”功能后，發(fā)現(xiàn)自己兩年來的學(xué)術(shù)成果，包括科研經(jīng)費申請材料、論文修訂稿等，全部消失。他指出，ChatGPT生成的內(nèi)容看似可靠，實則漏洞百出，他從未將模型的可靠性等同于內(nèi)容的真實性，但過于信賴平臺工作區(qū)的連續(xù)性和表面穩(wěn)定性。

布赫教授的這一經(jīng)歷引發(fā)了對生成式人工智能在科學(xué)界應(yīng)用的爭議。《大西洋月刊》報道稱，大量來源不明、由AI拼湊的劣質(zhì)稿件正涌入科學(xué)期刊，導(dǎo)致同行評審成為災(zāi)難。一些專門發(fā)表AI垃圾稿件的虛假學(xué)術(shù)期刊也應(yīng)運而生?？蒲腥藛T經(jīng)常收到通知，被告知自己的研究成果在新論文中被引用，但點進(jìn)去后卻發(fā)現(xiàn)相關(guān)引用內(nèi)容純屬AI虛構(gòu)。

盡管布赫教授的慘痛經(jīng)歷敲響了警鐘，但他并未試圖將AI生成的劣質(zhì)內(nèi)容塞給學(xué)生或發(fā)表不實的AI撰寫研究成果。他在專欄中指責(zé)OpenAI在未能提供基礎(chǔ)保護(hù)措施的情況下推出ChatGPTPlus付費訂閱服務(wù)。OpenAI回應(yīng)稱，聊天記錄一旦刪除便無法恢復(fù)，并強(qiáng)調(diào)用戶在永久刪除聊天記錄前，系統(tǒng)會彈出確認(rèn)窗口。該公司建議用戶在處理專業(yè)工作時做好個人數(shù)據(jù)備份。