隨著AI（人工智能）深度融入千家萬戶，“遇事不決問AI”成了許多人的選擇，但AI回答未必都是“干淨”的。不久前，有媒體曝光“AI投毒”隱蔽產業鏈現象，引發社會廣泛關注。

　　所謂“AI投毒”，是向人工智能大模型的訓練數據中，摻入偽裝成正常樣本的惡意數據或虛假信息，進而影響模型判斷、操縱輸出結果。“投毒者”可以批量制造虛假網頁、新聞，讓AI在抓取數據時一並“吞下”，在不知不覺中“學歪”，最終固化為針對特定問題的“標准答案”﹔也可以在模型中植入隱蔽的后門指令，一旦觸發特定關鍵詞就輸出預設信息。

　　信任是鏈接人與人工智能的重要前提。對個人而言，這種“看不見的污染”輕則影響體驗，重則誤導決策。比如AI推薦購物，它可能引導你購買被包裝出來的“爆款”﹔向AI咨詢醫療建議，它可能引用虛假病例，給出危險的治療方案……在醫療、金融等關鍵領域，這種風險尤其值得警惕。對產業而言，如果“數據不可信”成為普遍擔憂，企業之間的合作意願就會下降，行業的創新效率也會受到影響。

　　更深層的影響在於社會認知，隨著人工智能深度融入公眾日常生活，一旦模型給出的回答總是隱含歪曲事實的信息，便會潛移默化誤導公眾認知，放大偏見、制造混亂，甚至危及國家安全。

　　為什麼“AI投毒”在今天變得如此容易？

　　首先，數據本身越來越復雜，大模型依賴對海量數據的學習訓練，各種數據混雜在一起，很難做到完全可控可信，一旦缺乏嚴格的核查機制，就會給“投毒”留下空間﹔其次，“AI投毒”門檻較低，不法分子借助GEO（生成式引擎優化）工具，短時間內便能批量生成高權重虛假內容，成本極低、隱蔽性強﹔第三，數據作為一種新型生產要素，相應的標准體系、責任機制、監管手段等還在逐步完善，客觀上增加了治理難度。

　　近年來，我國出台《生成式人工智能服務管理暫行辦法》《人工智能安全治理框架》等規范，持續加強人工智能治理。不久前，中央網信辦部署“清朗·整治AI應用亂象”專項行動，將“AI數據投毒”列為重點打擊對象。

　　面對“AI投毒”，治理還要往深處走。AI運營者要建立更加嚴格的數據篩選、標注與審查機制，提升數據的可追溯性和可驗証性﹔通過異常檢測、對抗訓練等手段，提高模型對異常數據的識別能力，讓“摻雜”的數據更難混入。主管部門應加快規則體系建設，在制度層面上進行約束。比如，明確數據使用責任、建立違法行為懲戒機制、推動行業標准制定等。公眾同樣不是旁觀者，面對AI的回答，多一分質疑、多一次核實，不主動傳播未經查証的誘導性內容，發現異常及時反饋，主動呵護良好的人工智能生態。

　　還要看到，治理不僅是“防”，更是“促”。通過建設更加開放透明的數據生態，讓優質數據更易獲取，減少對不明來源數據的依賴，從源頭壓縮“投毒”空間，才是長久之計。

　　“AI投毒”現象提醒我們，在人工智能時代，數據是一種需要精心呵護的公共資源。治理“看不見的污染”，不僅是在填補技術漏洞，更是為人工智能發展夯實根基。數據更可信、規則更清晰、責任更明確，人工智能才能真正成為值得信賴的重要工具，為經濟社會高質量發展創造更大價值。

　　《 人民日報 》（ 2026年06月08日 19 版）