2月1日，美國加州大學(xué)圣克魯斯分校的研究團(tuán)隊(duì)發(fā)現(xiàn)自動(dòng)駕駛汽車和無人機(jī)的攝像頭存在安全漏洞。這些設(shè)備依賴“視覺-語言”大模型進(jìn)行導(dǎo)航，但黑客可以通過操縱性文字的標(biāo)牌發(fā)起攻擊，無需入侵系統(tǒng)軟件。研究團(tuán)隊(duì)提出了“CHAI”攻擊方法，通過優(yōu)化標(biāo)牌的語義內(nèi)容和視覺屬性，使AI執(zhí)行危險(xiǎn)指令。

在三種場(chǎng)景的測(cè)試中，CHAI攻擊的成功率極高。在模擬緊急降落的場(chǎng)合，無人機(jī)錯(cuò)誤降落的概率高達(dá)68.1%至92%。在DriveLM自動(dòng)駕駛系統(tǒng)測(cè)試中，攻擊成功率達(dá)到81.8%。而在CloudTrack目標(biāo)最終系統(tǒng)中，成功率更是高達(dá)95.5%。研究人員還在真實(shí)環(huán)境中驗(yàn)證了CHAI的有效性，成功率超過87%，且在不同語言文本中同樣有效。這一發(fā)現(xiàn)揭示了自動(dòng)駕駛技術(shù)和無人機(jī)領(lǐng)域面臨的新安全風(fēng)險(xiǎn)。