快手生成式人工智能導演共創計劃作品《雛菊》海報。

人社部與“可靈AI”合作發布的職業數字畫像。

人社部與“可靈AI”合作發布的職業數字畫像。

由抖音、博納影業AIGMS制作中心聯合出品的AIGC科幻短劇集《三星堆：未來啟示錄》海報。 　　本文圖片來源於網絡。

　　伴隨生成式AI大模型迭代升級，越來越多的AI創作工具入駐各大互聯網平台，人工智能正融入內容創作生產的方方面面。

　　生成式AI有哪些“能耐”？它讓互聯網空間出現了哪些變化？面對隨之而來的機遇與挑戰，互聯網平台又應如何應對？

　　

　　滿足多種創作需求

　　家住北京的劉女士有個新愛好：用AI特效拍短視頻。視頻作品裡，她一會兒變回幼時的自己，一會兒穿著長裙漫步在洱海畔，一會兒化身冰雪公主，甚至家裡的小貓也開口講起了段子……她感嘆：“每天都能發現新花樣！”

　　讓劉女士著迷的這些特效背后，是生成式AI大模型正在各類互聯網內容平台中普及。

　　打開小紅書，用戶能借助AI“一句話生成配圖”，文字內容更容易傳播分享﹔打開涂鴉界面，隨手畫上兩筆，就能生成像素風、毛絨公仔、積木、手繪等風格的圖片。

　　喜馬拉雅平台經過百萬小時的自有版權音頻數據訓練，依托全品類音色庫，讓用戶隻要錄十幾秒音頻，就能生成一本自己音色“朗讀”的有聲書，還能一鍵切換語種甚至方言。

　　借助抖音推出的剪映，用戶不僅能用AI配音、生成文案和圖片，甚至隻需上傳視頻片段，就能一鍵生成配好了旁白、音樂的短視頻。截至2025年2月，抖音“AI繪畫”的標簽已有468.8萬人參與，累計484.9億次播放。

　　使用快手推出的“可靈AI”，用戶上傳文字描述和參考圖，就能實現圖生視頻。2024年9月，人社部中國就業培訓技術指導中心與“可靈AI”聯手，發布“職業數字展館”短片，首次以AI方式全景呈現職業數字畫像。當年12月，快手平台又上線了生成式人工智能（AIGC）導演共創計劃，9部電影短片亮相，涵蓋奇幻、親情、動畫等多種類型。

　　生成式AI能理解人類語言，學習海量數據，並自主創造文字、圖像、音頻和視頻。有了AI大模型技術，互聯網平台正開發出更多便捷的內容生成工具，更多創作需求得到滿足，每個人腦海裡的想象都可能出現在眼前。

　　豐富互動模式

　　河北石家庄的王先生有個新發現：自己常用的“今日頭條”上，多了個“專屬AI助理”功能入口。

　　他在“頭條AI”裡提問“國際金價趨勢是什麼”，不出幾秒就生成了答案。以往分散在媒體文章、政府文件、專家訪談裡的數據與信息，被簡明扼要、條分縷析地呈現出來。對哪個觀點有疑問、想了解對自己工作的實際影響，還能和AI進一步討論。

　　“以往我隻把頭條當成搜新聞的工具，現在‘玩法’更多了。”王先生感嘆。

　　記者發現，近期，新浪微博、小紅書、微信“搜一搜”、嗶哩嗶哩等平台均推出了“智能搜索”，基於平台數據庫，輔以大模型聯網搜索、深度思考等技術，AI能針對用戶問題生成個性化答案，幫忙總結篩選搜索內容。

　　基於每個平台不同的內容生態，不同的AI搜索也有不同的特長。以小紅書推出的生活搜索應用“點點”為例，依托小紅書上大量生活方式、旅行打卡類筆記，“點點”在定制旅行攻略、搜集生活妙招時格外好用。

　　“前幾天我去杭州玩，‘點點’就幫了大忙。”湖北網友小宋告訴記者，“它不僅根據我的時間和預算生成了推薦行程，還參考其他網友的真實筆記，推薦了本地美食、小眾拍照打卡點，點擊就能跳轉到原文。再也不用手動找攻略了！”

　　除了讓搜索更省力、更有趣，生成式AI大模型還能讓網絡互動更豐富。

　　近幾年，不少微博用戶發現，有個叫“羅伯特”的“網友”不時出現在自己的評論區，有時毒舌吐槽，有時暖心激勵，有時還能開幾個頗有哲理的玩笑。它不是真人用戶，而是基於微博知微大模型訓練而成的AI機器人。

　　微博有高互動、強時效的特點。“羅伯特”以微博社區數據和最新知識庫作為訓練語料，做到對平台“熱梗”了如指掌，常蹦出令網友津津樂道的“金句”。目前它的賬號擁有167萬粉絲，日互動次數超過11萬。

　　如今，“互動AI”已成為各網絡平台的標配。比如，嗶哩嗶哩上有許多優質知識分享長視頻，網友可以將視頻分享給“AI課代表”，一鍵獲取視頻摘要。

　　發揮AI的最大效能

　　AI的內容生成能力，人們有目共睹，但想要讓生成式AI發揮出賦能內容創作的“最大效能”，還必須掃清同質化、虛假、低質內容等“絆腳石”。

　　小銘是一名藝術史領域的博主，她的視頻以知識分享為主，每次都需要悉心策劃選題、閱讀消化大量專業資料。她對記者吐起了“苦水”：“我們花一個月原創的內容，有時剛一發布就被別人AI洗稿，流量還比我們好，真的很無奈。”

　　據了解，伴隨生成式AI技術的發展，市面上出現一些專業洗稿工具，支持快速改寫、批量發布等操作，讓抄襲洗稿變得更快、更容易、更隱蔽。

　　同時，AI豐富了網絡內容的供給，卻也可能帶來虛假謠言。

　　近期，公安網安部門依法查處一起編造“學校發生火災”網絡謠言案，涉事網民正是利用AI軟件合成學校發生火災的圖片並傳播，造成嚴重不良影響。2024年公安部公布的10起打擊整治網絡謠言典型案例中，有4條涉及使用AI造謠。

　　互聯網平台接入AIGC創作工具的同時，應如何做好防范？

　　今日頭條在2024年開啟治理，對抄襲、洗稿等採用“零容忍”態度，同時加強對AI內容的審核力度。

　　通過持續迭代模型、增強系統對低質AI內容的識別能力﹔輔以加強人工審核、上線“AI創作內容”標簽、發布違規治理公告等舉措，平台全年共對超過93萬條低質AI內容進行了識別和管控，對近3萬個利用AI批量發布虛假低質內容或惡意抄襲、洗稿的賬號進行了處罰。

　　通過完善謠言庫、權威信源庫，組建醫療、財經、體育等專業領域的人工審核團隊，今日頭條去年共攔截不實信息超500萬條，處罰涉及造謠的賬號超4.7萬個。

　　現有治理手段外，各平台還在探索“用AI治理AI”。

　　目前，今日頭條已將AI模型引入識別AI生成虛假信息的流程。“我們將‘一眼假’的內容交給AI模型快速解決攔截，模型無法解決的復雜問題則交由專業審核人員判斷。”平台相關負責人告訴記者。

　　為何AI能夠更加快速高效地識別虛假信息？負責人解釋，關鍵在於生成式AI大模型能夠通過學習發文風格，更精准地鎖定虛假內容。

　　比如體育娛樂類內容，權威信源較少，容易出現錯判﹔治理人員通過分析海量數據，發現這一領域的虛假內容往往伴隨著夸張的文風和用詞。因此，平台在虛假信息檢索鏈路中引入“AI模型學習虛假內容寫作風格”機制。這一做法顯著提升了虛假謠言的攔截量級和攔截效率，用戶滿意度也提高了。

　　未來，大模型能力不斷升級，“揚長避短”最大化AI效能的探索也將進一步深入。

　　北京師范大學法學院院長梁迎修認為，借助AI的生成能力，未來網絡平台還可以根據目標受眾的認知偏好和背景信息，生成個性化的辟謠信息，幫助內容市場“庄稼代替雜草”“良幣驅逐劣幣”。

　　同時，AI還能用於協助追蹤相關內容在網絡上的傳播路徑，及時發現並預警，干預和制止不良信息擴散，同時便於事后追責。

　　然而，多名專家也指出：AI生成內容的治理具有復雜性，需要多方力量配合支持。執法機構要做好法治保障的護盤手，建立“技術取証—電子証據—司法鑒定”的全鏈條執法標准，用戶也應成為理性的受者和傳者，對可疑內容主動進行核實。

分享讓更多人看到