近年來，隨著生成式人工智能服務的迅速普及，網絡謠言也呈現出多模態、高仿真、大規模等新特征。據清華大學新聞與傳播學院新媒體研究中心發布的報告顯示，2023年以來，人工智能技術被濫用導致AI謠言信息量在半年內增長65%，顯著提高了網絡治理的復雜性與緊迫性。

面對這一挑戰，行業正積極回擊，用AI治理AI。抖音日前宣布，在其平台謠言治理中引入大模型能力，實現“發現即管控”，初步形成規模化、自動化治理能力。此舉使平台上的謠言曝光量在一個季度內下降67%。

增長65％，下降67％。這兩個數據展現出的悖論值得深思：人工智能讓制造謠言更容易，也讓治理謠言更高效。

人工智能技術大幅降低內容生成門檻，文字、圖像、音頻、視頻等多模態信息均可被高效合成與修改。如，“7月1日起老年人坐火車可打折”“每20個‘80后’中有1人已去世”等網絡謠言，因內容逼真、傳播迅速，極易誤導公眾並引發社會焦慮。

美國《科學》雜志相關報告文章顯示，虛假新聞的傳播概率比真實新聞高出約70%。尤其在突發事件中，AI可快速生成並擴散謠言，傳統人工核實與辟謠機制難以應對指數級增長的信息規模。

以往平台治理謠言多依賴媒體曝光或機構辟謠，再通過人工錄入謠言庫、回查與攔截，處理周期常以“天”為單位。如今，大模型技術正在改變這一滯后局面。

以抖音為例，其採用的治理大模型可主動識別具有一定傳播熱度的內容，提取視頻關鍵信息並進行實時聯網檢索，核驗其真實性。如，檢測到“老年人火車票打折”這類疑似謠言時，系統自動對接權威信源進行交叉驗証，完成風險判定與處置。目前，單例謠言處理時效已縮短至“小時級”。

此外，抖音於今年9月推出“AI抖音求真”功能，以“求真卡”形式在相關視頻及搜索場景中嵌入澄清信息，使用戶在瀏覽過程中即可獲取事實核查內容。

盡管AI技術顯著提升治理效率，但其能力仍高度依賴已有數據與規則樣本。一方面，面對全新類型或動態變化的謠言，尤其是利用“AI幻覺”生成的非惡意虛假信息，人工審核與權威信源介入仍不可替代。畢竟大模型技術再進步，其知識也來源於已有數據。另一方面，AI謠言常具有跨平台、自動化分發等特點，靠單一平台難以根治。

業內觀點認為，實現有效治理，需構建“技術+政策+公眾+生態”的多維協作機制：相關部門需明確AI生成內容的法律責任主體與監管規則﹔媒體機構應建立快速響應與事實核查機制﹔公眾舉報與數據共享也將發揮重要作用。

從產業角度看，AI治理不僅限於“辟謠”，而是涵蓋技術防控、法律法規、公眾教育和行業協同的系統工程。未來，伴隨大模型持續迭代與多模態檢測技術升級，AI治理效率有望進一步提升。與此同時，如何健全AI倫理規范、強化平台責任、提升公眾信息素養，也將成為產業和政策層面長期關注的議題。

分享讓更多人看到