當前，以ChatGPT、DeepSeek為代表的大語言模型（LLM）技術正加速重構全球產業格局。截至2025年，我國生成式人工智能大模型備案數量已突破300個，LLM技術已深度嵌入企業核心業務場景。然而，技術紅利背后潛藏著網絡安全范式變革——傳統基於規則和特征的防護體系，正面臨人工智能賦能的復合型風險挑戰。大語言模型應用使企業網絡安全威脅呈現三大躍遷：其一，攻擊維度升級，深度偽造語音、人工智能驅動的釣魚郵件等新型社會工程攻擊，突破傳統網絡邊界防御邏輯﹔其二，數據風險泛化，LLM訓練數據中潛藏的敏感信息可能通過逆向工程泄露﹔其三，供應鏈威脅加劇，LLM技術棧深度依賴開源框架和預訓練模型庫，第三方API接口和模型權重中的隱蔽后門正成為關鍵基礎設施的安全盲區。

隨著大語言模型在各行業深度應用，其網絡安全風險治理已成為數字化轉型過程中的關鍵議題。相較於傳統網絡安全風險，LLM特有的算法黑箱性、數據關聯性和技術依賴性特征，使得其風險治理呈現高度復雜性與動態演化特點。面對大語言模型帶來的新興風險，企業亟須構建系統化應對策略。特別是作為關鍵信息基礎設施運營主體的國有企業，建立健全大語言模型網絡安全風險識別與治理機制，既是保障業務安全的現實需求，也是保障國有資產安全的必然選擇。

中核武漢核電運行技術股份有限公司“華龍一號”全范圍模擬機。

大語言模型應用帶來的新興網絡安全風險

技術內生性風險在於數據泄露與模型失控。大語言模型的技術架構特性具有多重安全隱患。首先，模型訓練依賴海量數據導致敏感信息泄露風險增加。這種“訓練數據提取攻擊”在企業私有化部署場景中尤為危險，因為訓練數據往往包含商業機密和用戶隱私信息。其次，模型接口安全構成另一重威脅。攻擊者或利用API令牌漏洞獲取部分用戶模型訪問權限，暴露LLM服務架構中的安全斷層。更為嚴峻的是模型本身的“黑箱”特性導致其行為不可預測。在自動化運維中，模型不確定性可能導致生成未授權的數據訪問命令，若企業將此類輸出用於調整防火牆策略或調用內部API，就可能觸發權限提升或數據泄露風險。

業務場景化風險在於智能化轉型中的安全塌陷。在企業數字化轉型實踐中，大模型技術與業務場景的深度融合催生了多重新型攻擊面。首先，在客服系統中，“越獄”攻擊正在威脅企業數據安全。在客服等交互場景中，用戶可通過特定提示詞序列誘導模型泄露系統指令或執行未授權操作，這種威脅正在持續進化，有學者提出的“雙意圖逃逸”攻擊在多款模型上實現高隱蔽性越獄。其次，在決策支持系統中，大語言模型的生成不可控性與對抗性樣本並存。有研究表明L-AutoDA方法能在不知模型內部概率分布的條件下快速構造有效擾動，提升在圖像與文本決策任務中的攻擊成功率。最后，攻擊者可通過“鏈式提示注入”植入惡意指令，誘導模型執行多步未授權操作。

治理結構性風險在於制度滯后與生態失衡。現有網絡安全治理體系與LLM技術的快速演進之間存在斷層。我國《生成式人工智能服務管理暫行辦法》與網絡安全法、數據安全法等法律框架的銜接仍存在挑戰，使企業在部署LLM應用時面臨合規不確定性。國際治理格局的碎片化進一步加劇了合規困境。2023年12月歐盟出台的《人工智能法案》將基礎模型列為“高風險應用”並設置了嚴格的合規要求，而我國的監管框架更強調內容安全和數據主權。這種標准差異導致跨國企業的人工智能戰略部署面臨多重合規挑戰。更深層次的挑戰在於技術生態的失衡。目前，LLM底層框架和硬件平台仍嚴重依賴海外技術棧，國產化替代進程相對緩慢，導致關鍵領域受制於人。

中核武漢核電運行技術股份有限公司福建分公司CCTV檢驗班組開展漳州核電2號機組穩壓器及堆內構件役前檢查工作。

大語言模型網絡安全風險應對關鍵舉措

針對大語言模型深度應用帶來的網絡安全風險，需從多個角度採取應對關鍵舉措，形成覆蓋技術層、管理層、生態層的風險應對矩陣，確保大語言模型在安全可控的前提下釋放技術紅利，助力數字經濟健康發展。

升級技術防御體系

動態數據脫敏與訪問控制。針對大語言模型訓練和應用過程中的數據泄露風險，企業應構建基於敏感信息識別的實時遮蔽方案，通過語義分析對輸入輸出內容進行動態脫敏。建立多層次訪問控制機制，基於用戶角色、場景屬性和數據敏感級別，實施差異化訪問權限管理，防范訓練數據提取攻擊。

智能威脅感知與響應。企業應整合威脅情報與人工智能異常檢測能力，構建新一代人工智能安全運營中心（SOC）平台。該平台需具備對大模型應用特有攻擊模式的識別能力，包括提示詞注入、模型越獄和參數操縱等。通過引入防護框架實現對模型輸入輸出的全方位監控，攔截惡意提示詞。

模型行為審計與追溯。構建完善的日志審計機制，實現對模型全生命周期的行為監控和追溯。記錄模型訓練、調用和響應的完整過程，包括數據來源、參數調整、輸入輸出內容和用戶操作等關鍵信息。這種透明性不僅有助於安全事件的快速響應，還能支持合規要求的滿足。建立模型行為回溯系統，支持在安全事件發生后快速定位問題根源，識別攻擊路徑和影響范圍。這一機制能有效應對如抱抱臉（Hugging Face）平台API令牌漏洞等安全事件，提高事件響應效率和精准度。

優化管理體系

建立全生命周期風險管理。企業應建立覆蓋模型訓練、部署、運維和退役的閉環管控流程。在訓練階段，實施嚴格的數據來源合規審查，確保訓練數據的合法性和安全性﹔建立訓練數據標注安全規范，防止有害信息進入模型知識庫。在部署階段，強化模型安全測試，通過對抗樣本測試驗証模型防御能力﹔實施部署環境安全加固，防范外部攻擊。

明確“三位一體”責任機制。明確開發者、運維者和使用者的分級責任制，構建多層次安全防護體系。模型開發者負責安全算法設計和代碼審查﹔運維者負責部署環境安全和運行監控﹔使用者負責合規使用和異常報告。通過責任明確和協同配合，形成全方位的安全防護網絡。

組織常態化攻防演練。通過紅藍對抗檢驗防御體系有效性，發現並修復潛在安全漏洞。企業應定期組織針對大模型應用的專項安全演練，模擬各類攻擊場景，如提示詞注入、模型越獄等。

落實法規與生態協同

落實數據分類分級與跨境審查。嚴格落實數據安全法等法規要求，建立大模型數據分類分級管理體系。針對跨境數據流動，建立嚴格的審查機制，確保符合《生成式人工智能服務管理暫行辦法》中關於數據安全的規定。同時，加強對模型輸出的合規審查，確保生成內容符合法律法規要求，避免因違規內容生成而面臨合規風險。

完善供應鏈安全管理。強化第三方服務商安全評估與准入機制，防范供應鏈攻擊風險。建立供應商安全評估體系，從技術能力、安全措施和合規狀況等維度，對提供大模型相關產品和服務的供應商進行全面評估。

開發國產化替代與可信技術應用。針對技術生態失衡問題，企業應積極推進自主可控技術在關鍵系統的部署，降低對國外技術的依賴。優先選用自主可控的LLM框架和工具，加強與國內技術提供商的合作，共同提升產品安全性和可靠性。對於必須使用的國外技術，實施嚴格的安全隔離和監控措施。此外，企業應建立國產化技術評估機制，定期評估國產替代方案的成熟度和適用性，制定分階段的國產化替代路線圖。國家工業信息安全發展研究中心發布的《工業控制系統信息安全解決方案》提供了實施技術自主可控的有效框架，可指導企業系統性推進技術國產化進程。

跨境合規與國際協同。面對國際治理格局碎片化的挑戰，企業應建立適應多區域監管要求的合規管理框架。針對我國相關規定和歐盟《人工智能法案》，採用“合規即代碼”方法，將監管要求轉化為可執行的技術控制措施，實現合規管理的自動化和精准化。同時，積極參與國際人工智能治理標准制定，提升我國在全球人工智能治理體系中的話語權，推動形成更加包容、平衡的國際規則。

中核武漢核電運行技術股份有限公司辦公樓外景。

構筑數智時代的網絡安全新范式

大語言模型技術的迅猛發展為企業數字化轉型帶來前所未有的機遇，同時也催生了復雜多變的網絡安全挑戰。面對風險交織疊加，企業需統籌發展和安全，以“主動免疫”理念重構防御體系。摒棄傳統被動防御思維，將安全防護前置到技術研發和業務設計環節，構建融合技術防御、管理優化和合規協同的立體化安全框架。通過動態數據脫敏、智能威脅感知、全生命周期風險管理等關鍵舉措，實現對新興安全風險的早期識別和有效應對，保障企業數字化轉型行穩致遠。

與此同時，政府、研究機構、企業和技術社區應形成合力，完善法規、強化技術攻關、促進經驗共享，秉持“安全優先、創新驅動、開放協同、責任共擔”的理念，共同構建安全、可靠、可信的人工智能應用生態。通過凝聚多方智慧，構建共治共享的安全生態，在把握大模型技術創新紅利的同時，有效防范和化解潛在風險，為數字中國建設和數智時代的高質量發展筑牢安全基石，開創大語言模型安全應用的新局面。

來源：《新安全》雜志

分享讓更多人看到