行業(yè)動態(tài)

專家解讀|多措并舉推進標識體系建設(shè),助力新時代人工智能健康發(fā)展

來源:聚銘網(wǎng)絡(luò)    發(fā)布時間:2025-09-08    瀏覽次數(shù):
 

2025年3月14日,國家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》(以下簡稱《標識辦法》)及其配套強制性國家標準,自9月1日起正式實施。這一重要制度的出臺,標志著我國在AI治理領(lǐng)域邁出了關(guān)鍵一步。在標識逐步成為國際人工智能安全治理共識的時代背景下,我國針對性地提出了中國方案。《標識辦法》發(fā)布以來,標識實施工作呈現(xiàn)出全方位推進、多層次落實的良好態(tài)勢,各地網(wǎng)信部門、企業(yè)平臺共同構(gòu)建起覆蓋全鏈條、全環(huán)節(jié)的標識治理體系,顯著提升用戶對人工智能生成內(nèi)容的辨別能力,各場景應(yīng)用不斷深化,為人工智能健康有序發(fā)展提供有力保障。

一、多措并舉推動標識工作落實,構(gòu)建全方位推進格局

(一)行業(yè)協(xié)會組織開展宣貫活動,在多省市持續(xù)推進覆蓋

中國網(wǎng)絡(luò)空間安全協(xié)會積極組織開展標識辦法及標準宣貫活動,在全國多省市持續(xù)推進覆蓋。協(xié)會充分發(fā)揮專業(yè)優(yōu)勢,邀請相關(guān)技術(shù)部門和標準編制專家,深入解讀《標識辦法》的政策要求和技術(shù)標準的具體規(guī)范,系統(tǒng)闡述標識工作的重要意義,幫助企業(yè)和相關(guān)機構(gòu)準確理解標識義務(wù)和實施路徑。截至目前,相關(guān)宣貫活動已覆蓋全國9省市,參與企業(yè)和機構(gòu)達700余家,為制作平臺、傳播平臺、應(yīng)用分發(fā)平臺等不同主體提供了專業(yè)化指導(dǎo),幫助各類企業(yè)都能準確把握政策要求,為標識制度的有效落實奠定了堅實的認知基礎(chǔ)和工作基礎(chǔ)。

(二)技術(shù)支撐部門強化協(xié)同保障,多方面促進工作落實

在國家互聯(lián)網(wǎng)信息辦公室指導(dǎo)下,國家互聯(lián)網(wǎng)應(yīng)急中心作為核心技術(shù)支撐單位協(xié)同發(fā)力促進標識工作穩(wěn)妥落實。深入推進標識相關(guān)政策法規(guī)實施指導(dǎo),以多種形式面向研究機構(gòu)、平臺企業(yè)、專業(yè)人員開展技術(shù)解讀,從技術(shù)發(fā)展、技術(shù)要求、實現(xiàn)路徑、行業(yè)建議等多角度闡述《標識辦法》的內(nèi)涵要義、核心要求和實施方法。積極回應(yīng)企業(yè)落實標識責任開展技術(shù)實踐過程中存在的難點堵點問題,提供建設(shè)性指導(dǎo)意見,幫助企業(yè)有效應(yīng)對標識落地過程中的技術(shù)挑戰(zhàn)。結(jié)合行業(yè)實際扎實構(gòu)建系列技術(shù)能力,有力支撐標識落實工作的順利開展,充分發(fā)揮技術(shù)部門的帶動引領(lǐng)作用。

(三)屬地網(wǎng)信主動作為,積極對接企業(yè)開展政策宣貫

各地網(wǎng)信部門充分發(fā)揮屬地管理優(yōu)勢,主動作為,積極對接轄區(qū)內(nèi)重點企業(yè),扎實開展政策宣貫及實施指導(dǎo)工作。采用“因地制宜”的標識工作落地引導(dǎo)模式,針對不同規(guī)模、不同業(yè)務(wù)類型的企業(yè),提供個性化的政策解讀和技術(shù)指導(dǎo)。通過組織面向?qū)俚仄髽I(yè)的標識政策答疑、技術(shù)路線交流、實地調(diào)研走訪等方式,確保政策傳達的及時性和準確性。各地網(wǎng)信部門提供的精準化、差異化的工作指導(dǎo),有效提升了企業(yè)對標識工作的理解度和執(zhí)行力,推動形成了政府引導(dǎo)、企業(yè)響應(yīng)的良性互動格局,為標識工作在各地的順利推進提供了有力支撐。

(四)企業(yè)開展技術(shù)探索,頭部企業(yè)積極貢獻實踐指南

各企業(yè)平臺積極開展標識落地技術(shù)探索實踐,在文本、圖像、音頻、視頻等各個模態(tài)及不同應(yīng)用場景下,有效完成了標識要求的技術(shù)實現(xiàn),形成了覆蓋全鏈條的標識技術(shù)體系。頭部企業(yè)充分發(fā)揮技術(shù)優(yōu)勢和示范引領(lǐng)作用,積極貢獻技術(shù)實施實踐經(jīng)驗,推動形成了《人工智能生成合成內(nèi)容標識方法 文件元數(shù)據(jù)隱式標識 文本文件》等6項網(wǎng)絡(luò)安全標準實踐指南,明確各個模態(tài)典型的元數(shù)據(jù)標識、安全檢測及防護技術(shù)方案,為行業(yè)提供了詳實具體的技術(shù)指導(dǎo),有效降低了行業(yè)實施標識的技術(shù)門檻,實現(xiàn)了合規(guī)要求與技術(shù)創(chuàng)新的有機統(tǒng)一。

(五)平臺企業(yè)提升標識工作透明度,全面介紹標識落地舉措

在9月1日《標識辦法》正式實施前夕,各企業(yè)陸續(xù)通過多種方式發(fā)布公告提示,全面向用戶介紹本平臺標識落地情況和具體舉措。通過系統(tǒng)彈窗、功能頁面提示、用戶協(xié)議更新、官方公告等形式,主動告知用戶“標識功能已正式上線”,詳細說明標識的作用、意義和使用方法。各平臺結(jié)合自身業(yè)務(wù)特點,采取差異化的用戶告知策略,這種全覆蓋、多層次的用戶告知機制,確保用戶能夠充分了解和正確使用標識功能,有效提升了標識制度的社會認知度和用戶接受度,為標識工作的深入推進營造了良好的社會環(huán)境。

二、標識落地成效顯著,用戶感知度明顯提升

(一)顯式標識有效提示生成內(nèi)容,用戶辨識能力增強

顯式標識作為用戶可直接感知的標識方式,在各平臺得到了規(guī)范實施。生成的文本內(nèi)容普遍添加內(nèi)容或角標提示信息;圖像內(nèi)容通過圖片水印信息方式進行明顯標注;音頻內(nèi)容在適當位置添加語音或者節(jié)奏提示;視頻內(nèi)容在開頭、結(jié)尾或畫面中加入視覺標識。各平臺在標識的位置選擇、大小設(shè)計、顏色搭配等方面逐步形成更成熟的落地方案,確保標識清晰可見、易于識別。顯式標識的有效實施,為構(gòu)建清朗網(wǎng)絡(luò)空間提供了重要支撐。

(二)隱式標識提供打標工具,周邊標識體系完善

隱式標識是通過在文件元數(shù)據(jù)中嵌入標識信息,記錄生成合成內(nèi)容的關(guān)鍵屬性信息。各平臺建立了用戶生成合成內(nèi)容聲明機制,當用戶上傳可能包含人工智能生成合成元素的內(nèi)容時,平臺提供了聲明工具,便于用戶對生成合成內(nèi)容進行聲明提示。同時,傳播平臺在內(nèi)容展示、分享、下載等環(huán)節(jié)提供周邊標識提示,提示瀏覽用戶注意辨別內(nèi)容的真實性。隱式標識的技術(shù)實現(xiàn)日趨成熟,覆蓋了主流的文件格式和應(yīng)用場景。用戶聲明工具的便利性不斷提升,操作流程更加簡化,用戶體驗持續(xù)優(yōu)化,聲明工具的無感化、便利化程度的提升,將為標識技術(shù)應(yīng)用的持續(xù)深化注入活力。

(三)全鏈條責任體系建立,各環(huán)節(jié)標識義務(wù)明確落實

各類平臺嚴格按照《標識辦法》要求,在人工智能生成合成內(nèi)容的制作、傳播、分發(fā)等各個環(huán)節(jié)切實履行標識義務(wù),形成了責任清晰、協(xié)調(diào)有序的全鏈條管理格局。制作平臺作為源頭環(huán)節(jié),確保生成內(nèi)容從源頭就具備可識別、可溯源的特征。傳播平臺作為中間環(huán)節(jié),對平臺上傳播的人工智能生成合成內(nèi)容進行有效識別和管理,在內(nèi)容展示、分享、轉(zhuǎn)發(fā)等環(huán)節(jié)保持標識信息的完整性和準確性。應(yīng)用分發(fā)平臺作為入口環(huán)節(jié),嚴格履行審核把關(guān)職責,認真核驗服務(wù)提供者的標識功能實現(xiàn)情況。通過各環(huán)節(jié)的協(xié)同配合和責任落實,初步構(gòu)建起覆蓋“生成-傳播-分發(fā)”全鏈條的標識管理體系,為標識制度的有效運行提供了堅實的組織保障。

三、持續(xù)完善標識體系建設(shè),打造人工智能健康發(fā)展堅實基礎(chǔ)

(一)形成隱式標識方法共識,提升跨平臺互認效率

著力推進隱式標識方式形成更加廣泛的行業(yè)共識,明確不同文件格式、不同應(yīng)用場景下的隱式標識實現(xiàn)標準,充分考慮跨平臺標識互認的可行性,提升標識互認效率。通過統(tǒng)一技術(shù)路徑,有效降低隱式標識互認的實施成本,指導(dǎo)企業(yè)采用更加適配的隱式標識解決方案,推動行業(yè)持續(xù)完善有效支撐跨平臺標識互認的標識應(yīng)用生態(tài)。

(二)持續(xù)推進技術(shù)研發(fā),提升安全管理能力

加強標識相關(guān)技術(shù)的持續(xù)研發(fā)投入,在生成合成內(nèi)容識別、標識安全防護等方面不斷提升技術(shù)能力。推動人工智能檢測技術(shù)的創(chuàng)新發(fā)展,提高對各類生成合成內(nèi)容的識別精度和處理效率,提升對互聯(lián)網(wǎng)存量生成合成內(nèi)容的安全管理能力。強化標識安全防護技術(shù)研究,防范標識信息被惡意篡改或繞過的風險,提升生成合成內(nèi)容標識的安全性與穩(wěn)健性。

(三)實施精細化標識落地指引,兼顧尺度和溫度

針對人機高頻交互等特色化應(yīng)用場景,研究制定具有場景特色的標識要求,實現(xiàn)精細化管理模式。對虛擬數(shù)字人、智能助手、智能對話等應(yīng)用場景,在確保標識效果的同時,充分考慮用戶體驗和業(yè)務(wù)需求。在標識工作推進過程中,統(tǒng)籌考慮標識管理的規(guī)范性與靈活性,實現(xiàn)監(jiān)管尺度和人文溫度的有機統(tǒng)一,支持標識技術(shù)與業(yè)務(wù)場景的深度融合。

(四)提升公眾意識,促進正確認知形成

通過標識制度的實施,帶動社會對生成合成內(nèi)容的正確認識。加強面向不同群體的標識知識普及工作,通過公益宣傳、科普教育、媒體傳播等多種方式,提升公眾對人工智能生成合成內(nèi)容的識別能力和風險防范意識。推動標識教育持續(xù)走深走實,從源頭培養(yǎng)公眾的AI內(nèi)容識別能力,建立標識使用的社會監(jiān)督機制,形成全社會共同維護標識制度的良好氛圍。

(五)順應(yīng)時代發(fā)展,為人工智能健康發(fā)展保駕護航

面對“人工智能+”帶來的千行百業(yè)巨大變革,標識體系要順應(yīng)時代發(fā)展趨勢,持續(xù)優(yōu)化完善。密切跟蹤人工智能技術(shù)發(fā)展動態(tài),及時研判新技術(shù)、新應(yīng)用對標識工作的影響,建立標識制度的迭代升級機制,確保標識要求與技術(shù)發(fā)展相適應(yīng)。積極參與國際標識治理規(guī)則制定,推動形成全球人工智能安全治理的中國方案,通過持續(xù)完善標識體系建設(shè),為未來中國人工智能的健康發(fā)展提供堅實保障,實現(xiàn)人工智能技術(shù)發(fā)展與社會治理的良性互動。

人工智能生成合成內(nèi)容標識制度的建立和實施,是我國在數(shù)字時代治理體系建設(shè)中的重要創(chuàng)新實踐。通過各方的多措并舉和協(xié)同配合,標識工作已經(jīng)取得顯著成效,構(gòu)建了政府、企業(yè)、社會多方共治的良好局面。針對重點平臺、關(guān)鍵環(huán)節(jié),將綜合利用督促引導(dǎo)、提醒警示、限時整改等管理手段推動平臺企業(yè)全面落實標識義務(wù),確保標識責任鏈條不缺項、不斷鏈。面向未來,我們要始終堅持以習近平新時代中國特色社會主義思想為指導(dǎo),統(tǒng)籌發(fā)展與安全,不斷完善標識制度,提升治理效能,為建設(shè)網(wǎng)絡(luò)強國、推動人工智能高質(zhì)量發(fā)展作出更大貢獻。

信息來源:中央網(wǎng)絡(luò)安全和信息化委員辦公室 https://www.cac.gov.cn/2025-09/06/c_1758880709361356.htm

 
 

上一篇:【一周安全資訊0906】《國家密碼管理局商用密碼行政檢查事項清單》發(fā)布;九三閱兵無線電安全、信息通信服務(wù)和網(wǎng)絡(luò)安全保障圓滿完成

下一篇:騰訊云曝嚴重安全漏洞,配置錯誤致源碼與憑證長期暴露公網(wǎng)