人民網北京12月29日電 （記者王紹紹）人工智能釋放技術價值紅利的同時帶來復雜風險挑戰，如何平衡發展與安全已成為牽動人類命運共同體的重大課題。為把握機遇，應對挑戰，中國人工智能產業發展聯盟（以下簡稱“聯盟”）近日起草發布《人工智能安全承諾》（以下簡稱“《承諾》”），旨在推動行業自律，建立高效協同的治理機制，協力共促人工智能應用以人為本，智能向善。

近日，在2025中國信通院深度觀察報告會主論壇上，首批17家企業正式簽署《承諾》。《承諾》凝聚產業界守護人工智能安全、促進人工智能向善的基本共識，旨在共同應對技術變革帶來的復雜挑戰。

相關負責人介紹，未來，中國信通院將依托聯盟繼續推動《承諾》廣泛適用落實、敦促企業披露安全實踐，期冀以高水平安全保障高質量發展，攜手構建人工智能治理生態，協力共促人工智能健康發展。

《人工智能安全承諾》全文內容：

人工智能浪潮席卷全球，積極釋放技術價值紅利，對全球經濟社會發展和人類文明進步產生深遠影響。我們也清晰認知到，人工智能帶來難以預知的各種風險挑戰。為把握新一輪發展機遇，我們鄭重發起《人工智能安全承諾》，通過產業自律，以高水平安全保障高質量發展，協力共促人工智能穩健發展。我們深知，自律承諾是獲得社會信任的關鍵要素，我們將以本承諾作為行動守則，接受社會各界監督，不斷提升優化，促進人工智能技術應用以人為本，智能向善。

承諾一：設置安全團隊或組織架構，構建安全風險管理機制。內部設有專業團隊負責開展人工智能風險評估、安全治理等工作，明確安全負責人。主動設定符合實際需求的安全風險基線，開源時採取相應的安全措施，開展貫穿人工智能開發部署全生命周期的風險管理，明確風險識別和應對流程及措施。

承諾二：開展模型安全測試，提升模型效果與安全可靠性。通過專業性的仿真測試團隊，在發布、更新人工智能模型之前對其進行測試。對於大模型，重點圍繞其通用理解、推理和決策能力，以及其在工業、教育、醫療、金融、法律等場景下表現出的能力開展安全性和可靠性測試。

承諾三：採取措施保障訓練數據和業務數據安全。制定數據安全防護制度，配套建立防護技術措施，發現並及時處置數據投毒的情況，把控訓練數據的准確性與可靠性﹔對業務數據進行加密存儲與訪問控制，確保商業秘密、用戶隱私及用戶上傳的知識庫僅在授權下訪問，不被人工智能模型非法輸出，保障數據安全與隱私權益。

承諾四：提升基礎設施安全。建立人工智能系統部署的軟硬件安全監測和防護能力，實施定期和動態的安全滲透測試，模擬各種潛在的風險場景，識別並報告環境中的安全隱患，研判可能導致的各種風險。建立基礎設施安全應急響應機制，包括應急處理流程、責任分配以及事后改進方案。

承諾五：增強模型透明度。主動披露安全治理實踐舉措，提升對各利益攸關方的透明度。公開披露模型的功能、適用領域以及局限性。通過模型說明、服務協議等方式，向公眾披露可能涵蓋的風險。

承諾六：積極開展前沿安全研究。研判前沿應用領域的安全風險，針對智能體、具身智能等前沿應用可能存在的偏見歧視、不可控等方面進行風險研判，向公眾披露研究成果。研究開發和部署智能向善的人工智能系統，以幫助應對社會面臨的最大挑戰。

據了解，接下來，中國信通院將聯合人工智能產業界各方合作伙伴共同攜手應對人工智能技術帶來的安全挑戰，推動人工智能產業的健康可持續發展。

分享讓更多人看到