蓋世汽車訊 據(jù)外媒報道，密歇根大學(xué)工程學(xué)院（University of Michigan Engineering）的研究人員發(fā)明全新的軟硬件協(xié)同設(shè)計方案，提高了人工智能（AI）的能效并降低了延遲，從而能夠?qū)崟r處理視頻或傳感器數(shù)據(jù)流等連續(xù)數(shù)據(jù)流。相關(guān)研究發(fā)表在期刊《Nature Communications》上，研究表明這種神經(jīng)形態(tài)方法使得強大的實時AI可以直接在手機、助聽器或自動駕駛汽車攝像頭等本地邊緣設(shè)備上運行。

該研究團隊首次將復(fù)雜的狀態(tài)空間模型（一種替代ChatGPT等Transformer模型的尖端技術(shù)）直接映射到內(nèi)存計算架構(gòu)上。

圖片來源：期刊《Nature Communications》

密歇根大學(xué)（U-M）James R. Mellor工程學(xué)教授、該研究的通訊作者Wei Lu表示：“內(nèi)存計算系統(tǒng)具有極高的能效和吞吐量，但它們較為僵化，并非卷積神經(jīng)網(wǎng)絡(luò)和Transformer網(wǎng)絡(luò)的最佳選擇。在該研究中，我們證明了內(nèi)存計算系統(tǒng)非常適合狀態(tài)空間模型。狀態(tài)空間模型中的所有操作都可以通過內(nèi)存計算系統(tǒng)中的設(shè)備物理特性高效實現(xiàn)，這有望實現(xiàn)這些前景廣闊的網(wǎng)絡(luò)的高效硬件部署?！?/p>

AI處理效率問題

在邊緣設(shè)備（例如智能手機、可穿戴健康監(jiān)測器或自動駕駛汽車等電池供電設(shè)備）上運行AI推理，可以將數(shù)據(jù)本地化，從而提高速度、隱私性和效率。然而，目前的硬件和軟件效率不足以在邊緣設(shè)備上運行高級AI。

返回第一電動網(wǎng)首頁 >