人民網
人民網>>經濟·科技

大模型安全治理面臨“大考”

2026年08月04日07:37 | 來源:經濟日報222
訂閱已訂閱已收藏收藏小字號

點擊播報本文,約

當前,作為新一輪科技革命和產業變革的重要驅動力,人工智能大模型正深刻重構科研范式、產業形態與社會治理方式。然而,其潛在的安全風險,包括數據泄露、深度偽造、認知操縱等,正由技術隱患加速演變為現實威脅,迫切需要建立健全與之相適應的安全治理長效機制。

近年來,我國大模型研發與應用呈現爆發式增長態勢,但安全治理體系仍滯后於技術迭代速度。一方面,現有治理偏事后追責,缺乏對模型全生命周期的風險預判與動態監測,且缺少差異化與精細化的監管手段。另一方面,僅僅依賴政府發力,難以形成風險共擔、責任共治的治理生態。更值得警惕的是,大模型的認知引導能力可能被用於意識形態滲透,通過看似中立的問答輸出隱含價值偏見的內容。為此,應多管齊下,堵住安全漏洞。

大模型的安全威脅並非僅存在於部署后的濫用環節,其風險隱患早在數據採集、算法設計與訓練調優階段就已潛藏。隨著大模型加速向超大規模、多模態、多智能體、具身智能等方向演進,傳統事后處置模式已難以適應安全治理需要。強化前瞻布局,本質上是把握大模型安全治理的主動權,既是為技術發展劃定安全邊界,也是降低未來治理成本的源頭工程,更是防范系統性風險外溢的長效之策。因此,應推動治理關口前移,圍繞技術預研、風險預警、安全測試、規則嵌入等關鍵環節提前布設治理機制。面向下一代大模型技術演進趨勢,加強對多模態融合、多智能體協同、通用人工智能、具身智能等前沿方向的安全預研與評估。推動安全治理由被動應對轉向主動預防,實現從“看不見”風險到“看得見、防得住”風險的轉變。

大模型能力差異顯著、應用場景多元,若簡單套用統一監管標准,既可能抑制創新活力,也難以有效防控高風險領域。應綜合考量模型能力、數據來源、應用場景、用戶規模等因素,建立分級分類的風險識別機制,推動監管資源向重點領域和高風險環節精准投放。對低風險模型,實行備案管理和常態監測,最大限度減少對創新活力的制度約束﹔對高風險模型,特別是涉及公共決策、金融服務、醫療健康、輿論傳播等重點領域的模型,實施更嚴格的准入審查、算法認証和實時監管,確保關鍵場景安全可控。建立風險復評與動態校准機制,根據模型能力變化、場景拓展情況和風險暴露程度及時調整監管等級,推動監管標准隨技術演進而持續優化,避免“一次定級、終身適用”的僵化,使分級分類管理在動態中持久生效,成為健全治理長效機制的關鍵支撐。

大模型安全風險具有跨領域、跨層級、跨地域的復雜傳導特征,涉及技術研發、平台運營、行業應用等主體環節,也關聯公共安全、意識形態、社會秩序等治理領域。當前,單一主體的單點防控難以應對系統性風險,政府掌握監管權限但缺乏技術洞察,企業擁有技術優勢但存在逐利沖動,科研機構具備專業判斷但缺少執行抓手,社會公眾身處應用一線卻缺乏參與渠道。隻有將政府的制度優勢、企業的技術優勢、行業的協同優勢與社會的監督優勢有機整合,推動治理責任由分散割裂轉向協同共擔,治理機制由短期響應轉向常態運行,才能形成職責明晰、銜接順暢、運轉高效的治理長效機制。

(責編:郝帥、申佳平)
關注公眾號:人民網財經關注公眾號:人民網財經

分享讓更多人看到

推薦閱讀
返回頂部