《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》助力辨別虛假信息 推進(jìn)從生成到傳播全鏈條治理

想要近期外出旅游的小李，習(xí)慣性地打開某大模型應(yīng)用詢問。與往常一樣，答案很快生成，但這次文本結(jié)尾處多了一句話：“本回答由AI（人工智能）生成，內(nèi)容僅供參考，請(qǐng)仔細(xì)甄別。”

近年來，生成式人工智能、深度合成等新技術(shù)快速發(fā)展，在促進(jìn)經(jīng)濟(jì)發(fā)展、豐富網(wǎng)上內(nèi)容、便利公眾生活的同時(shí)，也造成虛假信息傳播、破壞網(wǎng)絡(luò)生態(tài)等問題。近日，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》）發(fā)布，自2025年9月1日起施行。

國(guó)家網(wǎng)信辦相關(guān)負(fù)責(zé)人表示，《標(biāo)識(shí)辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識(shí)”關(guān)鍵點(diǎn)，通過標(biāo)識(shí)提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任義務(wù)，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識(shí)行為，以合理成本提高安全性，推動(dòng)人工智能健康有序發(fā)展。

此前的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等就對(duì)深度合成服務(wù)提供者規(guī)定了標(biāo)識(shí)義務(wù)。而本次《標(biāo)識(shí)辦法》的一大亮點(diǎn)，則是將傳播平臺(tái)納入監(jiān)管范疇，實(shí)現(xiàn)從生成到傳播的全鏈條治理。

“這是一部劇情緊湊，每個(gè)角色性格鮮明的電視劇。它通過一個(gè)個(gè)獨(dú)立的故事，讓我們深入思考社會(huì)現(xiàn)實(shí)問題……”一天，小田在某知識(shí)分享平臺(tái)讀到一則影評(píng)。影評(píng)在開頭被打上了“疑似使用AI創(chuàng)作”的標(biāo)記，推薦排序極為靠后。

據(jù)該平臺(tái)負(fù)責(zé)人介紹，此前，平臺(tái)的社區(qū)治理規(guī)則已經(jīng)要求，用戶發(fā)布使用AI技術(shù)進(jìn)行輔助創(chuàng)作的內(nèi)容，應(yīng)主動(dòng)添加“包含AI輔助創(chuàng)作”創(chuàng)作聲明。而如果不主動(dòng)添加，被平臺(tái)檢測(cè)到使用AI創(chuàng)作，則會(huì)被打上標(biāo)識(shí)、排序置后或者“折疊”乃至刪除封號(hào)。

平臺(tái)這樣的治理行為，今后將有更明確的法律支撐。《標(biāo)識(shí)辦法》規(guī)定提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取下列措施，規(guī)范生成合成內(nèi)容傳播活動(dòng)：“核驗(yàn)文件元數(shù)據(jù)中是否含有隱式標(biāo)識(shí)”“檢測(cè)到顯式標(biāo)識(shí)或者其他生成合成痕跡的，識(shí)別為疑似生成合成內(nèi)容，采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí)，提醒公眾該內(nèi)容疑似生成合成內(nèi)容”……

公安部第三研究所副所長(zhǎng)金波表示，除此之外，針對(duì)其他關(guān)鍵參與方，如互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)主體的責(zé)任范疇等，也進(jìn)行明確規(guī)定，基本實(shí)現(xiàn)對(duì)生成合成內(nèi)容上下游主體的全覆蓋。

區(qū)分規(guī)定生成合成內(nèi)容中應(yīng)添加的“顯式標(biāo)識(shí)”和“隱式標(biāo)識(shí)”，是《標(biāo)識(shí)辦法》的另一大特色。其中，《標(biāo)識(shí)辦法》規(guī)定，應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)，隱式標(biāo)識(shí)包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號(hào)等制作要素信息。

對(duì)此，國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心正高級(jí)工程師張震介紹：“作為配套的《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》明確了元數(shù)據(jù)隱式標(biāo)識(shí)的字段要素，在盡量不影響元數(shù)據(jù)處理和傳輸?shù)那疤嵯拢度氡匾侄危涗浬珊铣蓛?nèi)容的關(guān)鍵信息和關(guān)鍵環(huán)節(jié)，確保內(nèi)容在流轉(zhuǎn)過程中始終可追溯。”

而相關(guān)條款的規(guī)定，對(duì)促進(jìn)人工智能便利使用、創(chuàng)新發(fā)展也有積極意義。

“請(qǐng)幫我生成一張郵輪在大海的驚濤駭浪中航行的圖片。”李某制作視頻時(shí)，需要在視頻中放置一張圖片，和往常一樣在某大模型應(yīng)用上生成了一張圖片。在圖片的右下角，有一個(gè)標(biāo)記“AI生成”。

“有些大模型應(yīng)用，每次生成的圖片，都有‘AI生成’之類的標(biāo)記，使用時(shí)還需要再編輯處理，多少有些麻煩。”李某說，希望類似的生成內(nèi)容可以直接去除AI標(biāo)識(shí)，自己在最終發(fā)布時(shí)會(huì)聲明AI創(chuàng)作。

“《標(biāo)識(shí)辦法》第九條提出，在用戶主動(dòng)要求提供未添加顯式標(biāo)識(shí)內(nèi)容時(shí)，網(wǎng)站平臺(tái)在不違反相關(guān)法律法規(guī)要求前提下，可通過在用戶協(xié)議中明確責(zé)任義務(wù)并依法留存相關(guān)日志信息后，面向用戶予以提供。”國(guó)家網(wǎng)信辦相關(guān)負(fù)責(zé)人介紹，用戶在后續(xù)使用過程中，需主動(dòng)聲明生成合成情況并添加顯式標(biāo)識(shí)后，方可面向公眾發(fā)布和傳播。