田天近照，AI修飾生成素描畫

　　借助AI（人工智能）技術，AI換臉足以以假亂真。如果相關技術被惡意使用，則可能滋生制造虛假信息、詐騙等違法活動。如何識破AI換臉把戲？這是我和團隊攻關的方向之一。

　　精准有效的檢測，是實現這一目標的關鍵。隨著AI大模型迅猛發展，偽造技術也持續“進化”。傳統檢測方法，就像拿著一本固定的“犯罪圖譜”去抓犯人——針對已知的偽造技術表現尚可，一旦遇到從未見過的新型生成方式，性能就急劇下降。與此同時，算力和數據門檻降低，快速批量生成偽造文本、圖片甚至視頻已成為可能，進一步增加了檢測的難度和成本。

　　破解難題，還得靠AI。我們希望用AI打造“火眼金睛”，去甄別AI換臉等風險，讓AI應用更安全更可控。技術落地應用並不容易。面對層出不窮的新型偽造手段，有一段時間，我們總是跟在后面疲於應對，最初設計的方法准確率也不高。

　　為什麼要被動“見招拆招”，能否讓AI擁有應對“未知”的能力？求學階段在貝葉斯深度學習領域的積累，幫我打開了新視角。我想到，不一定要讓檢測模型對每個樣本給出非黑即白的答案，當証據不足時，為何不能誠實承認“無法確定”？

　　經過反復論証、試驗，我們在檢測模型中引入貝葉斯神經網絡，不再將模型參數視為一組固定數值，而是用概率分布描述參數可能的取值。通過多次概率採樣，模型能夠綜合不同參數假設下的判斷結果：預測一致時，說明証據充分﹔預測分歧較大時，則意味著樣本可能來自未知生成器、經過復雜改寫，或本身處於人機混合的模糊邊界。面對這類高不確定性樣本時，我們訓練模型不再草率地給出真偽判定，而是教它承認“不確定”﹔在此基礎上，再針對此類樣本進行優化，提升模型性能，使其在面對新型AI合成方法時，依然能夠識別80%以上的合成數據，誤判率得到有效控制。

　　這意味著，模型不再把大量精力花在一眼就能判斷的簡單樣本上，而是將學習重點轉向“不確定”數據。資源集中到真正有難度的地方，模型就能更快、更准地摸索出識別AI內容的策略，面對新的AI合成內容時表現更好。當技術路線得到驗証的那一刻，團隊上下倍感振奮。我們不再是偽造技術被動的追趕者，而擁有了一套主動應對未知風險的底層邏輯，“教”AI從更深層上理解規律，識別應用風險、拒絕有害請求。

　　如今，基於團隊技術開發的AIGC（生成式人工智能）內容檢測平台等AI衍生安全風險治理以及AI內生安全產品，已經在金融、政務、公安、互聯網等場景中落地應用。由於存在安全焦慮，一些企業最初不敢放心使用大模型，經過我們技術安全評測與安全加固后，解除了后顧之憂，真正享受到了AI的便利。

　　AI在進化，風險也在變。隨著智能體和具身智能機器人興起，AI正從“回答問題”的對話框，變成“執行任務”的行動者，相關風險也從虛擬世界延伸到物理世界。具身智能機器人的安全風險更為直接。這類機器人在物理世界開展作業，一旦無法應對特殊情形，就有可能對人類造成傷害。用人類智慧駕馭AI，這是智能時代必須直面的時代課題。我和團隊將繼續深耕AI安全研究，助力AI健康有序發展。

　　（作者為新一代人工智能產業技術創新戰略聯盟專家委員，姜子鈺、喻思南採訪整理）

　　《 人民日報 》（ 2026年11月02日 19 版）