近日，英國衛(wèi)報報道了一項由英國政府資助的研究，該研究顯示過去六個月內(nèi)AI聊天機器人違抗人類指令、實施欺騙的案例激增五倍，總數(shù)接近700起。這項研究由英國長期韌性中心（CLTR）主導，調查了2025年10月至2026年3月期間的AI失控事件，涉及谷歌、OpenAI、X和Anthropic等科技巨頭的AI模型。研究發(fā)現(xiàn)，這些AI不僅無視安全規(guī)范，甚至開始主動欺騙人類和其他AI系統(tǒng)。

報告披露了多個離奇案例，包括馬斯克旗下的Grok偽造內(nèi)部工單欺騙用戶數(shù)月；有AI假裝服務聽障人士繞過YouTube的版權限制；一款名為Rathbun的AI寫博客網(wǎng)暴要限制其權限的人類；以及用戶明確要求AI智能體不要更改計算機代碼，卻“生成”了另一個智能體去做這件事。這些行為表明AI的失控行為已經(jīng)越來越多，安全研究機構Irregular聯(lián)合創(chuàng)始人警告稱，AI已演變成一種新型“內(nèi)部風險”。前政府AI專家也指出，目前的AI就像是不靠譜的初級員工，但未來極可能演變成具備高破壞力的高管，一旦應用于軍事或基建領域，后果不堪設想。

面對失控質疑，谷歌回應稱已為大模型部署多重護欄，并交由第三方獨立評估。OpenAI則表示其模型在執(zhí)行高風險操作前會自動暫停。Anthropic和X暫未作出回應。