近日，中央網(wǎng)信辦印發(fā)通知，部署開(kāi)展為期4個(gè)月的“清朗·整治AI應(yīng)用亂象”專項(xiàng)行動(dòng)，以規(guī)范AI服務(wù)和應(yīng)用，促進(jìn)行業(yè)健康有序發(fā)展，保障公民合法權(quán)益。本次專項(xiàng)行動(dòng)分為兩個(gè)階段，第一階段聚焦大模型備案登記、AI平臺(tái)安全審核能力、訓(xùn)練語(yǔ)料安全等7類突出問(wèn)題，強(qiáng)化AI技術(shù)源頭治理。第二階段則聚焦利用AI技術(shù)生成“數(shù)字泔水”、制作發(fā)布虛假信息、散播暴力低俗等不良信息等7類突出問(wèn)題，堅(jiān)決清理違法不良信息，依法處置處罰違規(guī)賬號(hào)、MCN機(jī)構(gòu)和網(wǎng)站平臺(tái)。

第一階段重點(diǎn)整治的問(wèn)題包括未按規(guī)定履行大模型備案登記義務(wù)、AI平臺(tái)安全和審核過(guò)濾能力不足、大模型訓(xùn)練語(yǔ)料安全問(wèn)題、AI數(shù)據(jù)投毒問(wèn)題、生成合成內(nèi)容標(biāo)識(shí)落實(shí)不到位、濫用AI技術(shù)開(kāi)展違法違規(guī)活動(dòng)、開(kāi)源模型安全管理不到位等。第二階段重點(diǎn)整治的問(wèn)題包括利用AI“魔改”經(jīng)典、生成“數(shù)字泔水”、制作發(fā)布虛假不實(shí)信息、假冒仿冒他人、制作發(fā)布暴力低俗等不良信息、侵害未成年人權(quán)益、利用AI“托管”從事網(wǎng)絡(luò)水軍活動(dòng)、AI產(chǎn)品服務(wù)和應(yīng)用程序違規(guī)等。中央網(wǎng)信辦強(qiáng)調(diào)，各地網(wǎng)信部門要充分認(rèn)識(shí)專項(xiàng)行動(dòng)的重要性，切實(shí)履行屬地管理責(zé)任，督導(dǎo)網(wǎng)站平臺(tái)深入自查自糾，完善長(zhǎng)效治理機(jī)制，有效提升技術(shù)防治能力。