不同於以內容生成為主的傳統大模型，智能體具備自主感知、規劃任務、調用工具、執行操作的能力，其與科研制造、民生服務、社會治理等諸多領域深度融合，成為推動產業數字化向縱深發展的關鍵。當前，伴隨著AI的大規模商業化應用，AI驅動的網絡攻擊安全風險也日趨凸顯。AI網絡攻擊具有智能化、自動化、隱蔽化特點，攻擊對象從服務器、網絡邊界拓展至大模型、智能體、核心數據，權限調用、工具執行等環節也成為風險突破口，防護難度顯著增加。一旦安全失守，不僅單個企業遭受損失，更可能動搖整個產業鏈的信任根基。如何統籌創新發展與可信安全，已經成為必須破解的時代課題。

目前，世界上主要經濟體在搶抓人工智能產業機遇的同時，都在探索適合自身發展的AI安全治理路徑。歐盟出台《人工智能法案》，採取風險分級監管模式，對高風險人工智能系統實施強制評估、文檔留存、人機監督等約束措施。越南、新加坡等亞洲國家也通過立法的形式建立對人工智能的治理框架，防范AI濫用帶來的安全風險。我國雖尚未出台人工智能綜合性專門法律，但依托現有法律政策已搭建起較為完備的治理體系。特別是《人工智能安全治理框架3.0》《智能體規范應用與創新發展實施意見》等文件，明確要求把安全可控貫穿智能體研發、部署、應用全周期，對AI供應鏈安全、分類分級治理、產業協同等作出系統性制度安排，為產業發展劃定了清晰的安全邊界。

必須看到，我國人工智能產業安全發展依然面臨不少現實挑戰。盡管我國人工智能應用場景豐富、市場規模龐大、技術迭代速度較快，但產業總體仍處於發展早期。部分經營主體重演示效果，輕生產級可靠性﹔重單點模型優化，忽視全供應鏈風險。接下來要多措並舉，進一步釋放產業創新潛能。

政府要強化頂層設計，構建包容審慎的治理體系。持續完善制度規則，落實智能體全周期安全規范，深化分類分級治理，對政務、金融、公共安全等高風險領域嚴格落實備案、安全檢測、問題召回制度，對休閑娛樂等低風險場景更多依托行業自律，避免“一刀切”束縛創新活力。強化統籌引導，搭建產業協作平台，建立AI供應鏈安全信息共享預警機制，統籌資源支持關鍵技術攻關，適度向國家實驗室、創新聯合體傾斜。

企業要扛起主體責任，把可信安全嵌入產業全生命周期。在研發層面，強化內生安全設計，將安全需求前置到大模型、智能體的設計開發階段，用好行為圍欄、異常監測、行為溯源等技術手段，管好權限調用、工具訪問、數據流轉各個關口，防范智能體被惡意操控。在供應鏈層面，對數據、模型、軟件、算力等各類資產開展風險核查，梳理供應鏈風險點，守住開源組件、外部工具接入的安全關口。

產學研各界協同發力，共筑多元共治的產業安全生態。高校與科研院所可攻堅AI供應鏈安全、智能體行為管控等基礎理論與關鍵技術，加快網絡安全、人工智能交叉領域人才培養，補上高端人才缺口。行業協會組織可發揮橋梁作用，制定行業自律規范，探索信用評價機制，引導經營主體自覺遵守安全倫理。推動創新聯合體建設，打通產學研用壁壘，圍繞共性安全技術、評估認証開展聯合攻關。