今日,北京智源人工智能研究院宣布了一項重大驗證成果,推出了六款AI芯片和三大模型,以及同構+異構千卡的眾智FlagOS,實現了AI訓練“全要素”驗證。摩爾線程作為核心參與廠商之一,基于其旗艦級AI訓推一體全功能GPU智算卡MTTS5000,成功適配了FlagOS訓練全要素軟件棧,包括系統調度決策框架、分布式訓練框架、加速庫、算子庫和通信庫等。
在驗證過程中,MTTS5000針對Qwen3-0.6B語言模型完成了1TTokens從頭訓練驗證,實現了連續(xù)6天以上、超過14000步的無中斷穩(wěn)定訓練。訓練所得模型的Loss曲線與基線高度一致,平均相對誤差控制在0.82%以內,而在標準下游任務評測中,相較于行業(yè)標桿基線提升了1.65個百分點,充分證明了全功能GPU算力在大模型端到端訓練中的穩(wěn)定性與有效性。

來源:一電快訊
返回第一電動網首頁 >
以上內容由AI創(chuàng)作,如有問題請聯系admin#d1ev.com(#替換成@)溝通,AI創(chuàng)作內容并不代表第一電動網(www.cbbreul.com)立場。
文中圖片源自互聯網或AI創(chuàng)作,如有侵權請聯系郵件刪除。