人民網
人民網>>經濟·科技

智能體安全互聯有了自律公約

2026年11月12日07:42 | 來源:科技日報222
訂閱已訂閱已收藏收藏小字號

點擊播報本文,約

近日,《智能體發展自律公約》(以下簡稱《公約》)在世界互聯網大會烏鎮峰會期間正式發布。該公約由中國信息通信研究院、華為、騰訊、螞蟻、阿裡、抖音等20家單位聯合發起,圍繞智能體信任體系、互聯基礎設施、互操作、安全防護、治理機制、用戶權益和產業應用等提出八條自律措施,為智能體走向規模化協作提出行業倡議。

隨著人工智能技術加速發展,智能體正從單一任務執行走向多主體協同。智能體為什麼需要互聯?互聯之后又如何確保安全可信?科技日報記者就此採訪了有關專家。

第一問:智能體為什麼需要互聯?

“單一智能體能力有限,在開放環境下往往需要多個智能體協同。”中國工程院院士鄔賀銓介紹,與傳統互聯網一次會話形成一次連接不同,智能體執行任務過程中可能不斷調用工具、其他大模型和智能體,交互鏈條更長,對互聯能力提出更高要求。

智能體互聯,不只是讓不同智能體“連上網”,更重要的是讓它們能夠被識別、被發現、相互理解,並在一定規則下協同工作。這需要一套覆蓋身份注冊、能力發現、網絡連接、資源調度和協議互操作等環節的基礎設施。

對此,《公約》提出,發展智能體注冊與解析、能力描述與發現、意圖理解與轉換、網絡路由與連接、資源調度與計量、協議兼容與互認等技術與標准,不斷降低智能體跨域發現連接成本,支撐智能體互聯協同。

“目前智能體互聯,尤其是跨主體、跨平台的智能體互聯還處於技術驗証階段。”中國信息通信研究院副院長敖立介紹,未來需要具有公信力的組織,包括身份管理、可信互聯、運營支撐等共性服務,並通過具體場景驗証真實需求、任務效果和整體成本,探索形成可商業化運營模式。

第二問:怎樣確保安全可信?

智能體能夠自主行動,也意味著其行為可能產生現實影響。“智能體相關應用正進入爆發期,數據不再鎖定於單個應用內部,而是在模型、工具、系統與用戶之間流轉,需要建立身份可信、過程可審計、權責清晰的互信機制。”騰訊集團副總裁、總編輯朱殿君表示。

在西門子網絡安全副總裁保羅·埃爾·庫裡看來,智能體可信運行需要回答幾個問題:身份是否經過驗証,任務目的是否明確,權限范圍和策略限制是否清晰,責任主體、監督機制和升級處置路徑是否明確。對於不同風險等級的任務,應採取不同程度的人工監督和授權機制。

朱殿君介紹了“可信Al”治理體系的相關實踐:一是行為可控,明確智能體的身份與權限邊界,全程可監控、可干預、可叫停,高危操作自動攔截﹔二是過程可溯,智能體納入統一賬號和權限體系,數據訪問、工具調用、任務執行全程留痕﹔三是數據可管,以全程加密保障數據安全,以兜底恢復防止意外損失,敏感任務支持機密計算。

《公約》也對智能體安全防護提出明確要求:健全前瞻性風險評估、運行監測、行為管控、異常熔斷等技術體系,努力保障模型、插件、技能來源可靠,共建風險信息共享與聯合處置機制,防范智能體越權操作、隱私泄露乃至行為失控等安全風險。

此外,鄔賀銓表示,與功能相對固定的傳統App不同,智能體具有自學習、動態變化等特點,還可能調用其他智能體,給安全治理帶來新挑戰。他建議,建立覆蓋事前、事中、事后的治理機制:事前開展校驗,事中進行行為審計,事后實現溯源取証,同時搭建智能體安全態勢感知平台,開展安全技術測試,構建安全可靠的應用環境。

第三問:如何降低行業使用門檻?

智能體互聯的意義,不僅在於讓技術系統彼此連接,更在於促進智能體能力復用,降低企業開發、部署和使用成本,讓更多行業、用戶共享人工智能發展紅利。

《公約》提出,加速智能體賦能千行百業,堅持服務實體經濟,發展低門檻智能體開發部署工具,合作研發面向真實作業場景、創造實際價值的智能體,推動智能體嵌入現有生產系統和業務流程。同時,尊重各方知識產權與正當權益,堅持開放協作、平等協商,深化能力開放與接口適配、任務委托與協同執行等機制,有序降低智能體互操作壁壘。

“當前智能體跨平台、跨領域協作仍存在不少難點。”敖立建議,建立公共身份注冊、解析和服務發現能力,有助於降低不同主體之間的連接成本,為智能體在更大范圍內協作創造條件。

“把產品做得好用、把數據管得透明、把生態搭建齊全,智能體才能真正進化為一個能干活、可交付的伙伴。”朱殿君說。隨著互聯基礎設施不斷健全、行業協作機制逐步成熟,智能體有望在更廣泛的產業場景中釋放價值。(記者 崔 爽)

(責編:楊虞波羅、陳鍵)
關注公眾號:人民網財經關注公眾號:人民網財經

分享讓更多人看到

推薦閱讀
返回頂部