近日，國家網信辦聯合多部門發布《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》），自9月1日起施行。

生成式人工智能、深度合成等新技術快速發展，為生成合成文本、圖片、音視頻等提供了便利工具，在促進經濟發展、豐富網上內容、便利公眾生活的同時，也造成虛假信息傳播、破壞網絡生態等問題。

國家網信辦有關負責人表示，《標識辦法》聚焦人工智能“生成合成內容標識”關鍵點，通過標識提醒用戶辨別虛假信息，明確相關服務主體的標識責任義務，規范內容制作、傳播各環節標識行為，以合理成本提高安全性，促進人工智能在文本對話、內容制作、輔助設計等各應用場景加快落地。同時，減輕人工智能生成合成技術濫用危害，防范利用人工智能技術制作傳播虛假信息等風險行為，推動人工智能健康有序發展。

探索顯隱雙標識機制

“生成合成內容標識已成為國際慣例。”公安部第三研究所副所長金波介紹，歐盟《人工智能法》、美國《編輯和深度偽造內容來源保護完整性法案》、英國《人工智能（監管）法案》等均對水印、標識義務有要求。在我國，2023年1月施行的《互聯網信息服務深度合成管理規定》提出針對文本、圖像、音頻、視頻、虛擬場景等信息內容的標識要求，2023年8月施行的《生成式人工智能服務管理暫行辦法》承襲相關規定。

此次《標識辦法》明確，人工智能生成合成內容標識主要包括顯式標識和隱式標識兩種形式。顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現並可以被用戶明顯感知到的標識﹔隱式標識是指採取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識。

《標識辦法》要求，服務提供者提供的生成合成服務屬於《互聯網信息服務深度合成管理規定》第十七條第一款情形的，應當按照要求對生成合成內容添加顯式標識﹔服務提供者應當按照《互聯網信息服務深度合成管理規定》第十六條的規定，在生成合成內容的文件元數據中添加隱式標識﹔提供網絡信息內容傳播服務的服務提供者應當採取技術措施，規范生成合成內容傳播活動。

“我國迄今已備案生成式人工智能產品300余款，生成合成服務3000余個，有力推動了人工智能行業的快速發展。”國家計算機網絡應急技術處理協調中心正高級工程師張震表示，《標識辦法》是對我國人工智能算法治理體系的進一步完善。

實現全鏈條治理

《標識辦法》明確，互聯網應用程序分發平台在應用程序上架或者上線審核時，應當要求服務提供者說明是否提供人工智能生成合成服務。

對此，張震談到，《標識辦法》明確了文本、圖像、音頻、視頻等多模態的標識要求，將安全治理深入到內容模態層面，並創新性地將傳播平台納入監管范疇，實現從生成到傳播的全鏈條治理。

值得注意的是，配套《標識辦法》，強制性國家標准《網絡安全技術 人工智能生成合成內容標識方法》（以下簡稱《標識標准》）將於9月1日同步實施，以更好指導相關主體規范開展標識活動。

“這開創了技術標准與管理制度配合實施的新型治理模式，標志著我國人工智能安全治理邁入‘技管雙強’的新階段。”中國電子技術標准化研究院副院長范科峰認為，二者協同發布，破解了以往治理中管理規范與技術標准銜接不暢的問題。

在他看來，作為我國人工智能領域首部“辦法+強標”組合拳，其在管理維度明確生成、傳播、分發全鏈條主體責任，在監管維度建立審核、監測、追責的閉環機制，在技術維度規范顯隱標識體系並預留創新空間，這種三位一體的治理架構為人工智能安全治理提供了清晰的實施路徑。

分享讓更多人看到