近日，一名安全工程師羅恩·斯托納通過偽造信息，成功欺騙多款A(yù)I聊天機器人，聲稱自己是德國一款不存在的紙牌游戲的世界冠軍。斯托納在維基百科上創(chuàng)建了一個虛假的詞條，并引用了一個他注冊的虛假網(wǎng)站作為依據(jù)。盡管這些信息明顯是捏造的，但AI聊天機器人仍然篤定地確認了他的“世界冠軍”身份。

斯托納的實驗揭示了人工智能在信息檢索和判斷上的漏洞。他指出，AI模型傾向于無條件信任網(wǎng)絡(luò)資源，無法區(qū)分信息的真實性和權(quán)威性。這種漏洞可能導(dǎo)致嚴重的后果，如錯誤信息的傳播和安全隱患。斯托納的實驗顯示，即使是簡單的虛假信息也能輕易誤導(dǎo)AI，這要求AI企業(yè)重視數(shù)據(jù)溯源和風(fēng)險提示，以防止?jié)撛诘耐{。