人民網
人民網>>經濟·科技

AI生成內容可以檢測!准確率超90%

2023年03月01日16:16 | 來源:人民網
小字號

國內首個AI生成內容檢測工具——AIGC-X官網截圖。

人民網北京3月1日電 (記者申佳平)從AI繪畫、AI作曲到虛擬人,再到近期爆火的ChatGPT, 伴隨人工智能生成內容(AIGC)技術發展加速,內容生產方式迎來巨大變革。與此同時,在不斷“生長”的互聯網內容世界,找到一把明晰虛實、分辨真假的技術標尺,也成為關乎行業長遠健康發展的關鍵。

今日,AIGC-X正式開始全網公測。據悉,這是由人民日報社主管、依托人民網建設的傳播內容認知全國重點實驗室,中國科學技術大學,合肥綜合性國家科學中心人工智能研究院聯合推出的國內首個AI生成內容檢測工具。試用入口為http://ai.sklccc.com/AIGC-X/#/

據介紹,AIGC-X可快速區分機器生成文本與人工生成文本,目前對中文文本檢測的准確率已超過90%。

傳播內容認知全國重點實驗室首席科學家張勇東表示,因具有對話咨詢、文章寫作、內容潤色等廣泛的應用場景,以ChatGPT為代表的AIGC技術迎來發展新階段。隨之而來的倫理規范、內容侵權、信息造假等風險挑戰同樣不容忽視,迫切需要推出針對性的檢測產品,提升對內容生產新范式的監管治理技術能力。

他介紹,通過採用算法融合與知識驅動的人工智能框架,使用深度建模來捕捉困惑度、突現頻次等隱式特征,AIGC-X可對AI技術生成的假新聞、內容抄襲、垃圾郵件進行檢測,在內容版權、網絡釣魚、虛假信息和學術造假檢測等內容安全、內容風控方面有廣闊的應用前景。未來,AIGC-X還會擴展為對人工智能生成文本、圖像乃至視頻的通用智能識別模型。

“AIGC迫切需要適當的引導和規范。”傳播內容認知全國重點實驗室研究員靳國慶特別強調,要重視防范AIGC在虛假信息、學術造假、網絡釣魚等灰色領域的濫用。“AIGC-X將推動AI風險管理、安全評測技術的發展,為建立安全可控的AIGC生態提供技術支撐。”

據介紹,在此次發布AIGC-X之前,傳播內容認知全國重點實驗室已推出基於人工智能開發的“智曉助”和“白澤”兩個內容風控系統,並在百余家機構使用。專注於內容風控業務的人民網信息技術公司已基於AIGC-X開發了“捕獲AIGC”產品,通過“人民審校”微信公眾號對外發布。

工業和信息化部公布的數據顯示,我國AI核心產業規模目前已超過4000億元,企業數量接近4000家,帶動相關產業規模超數萬億元,並將持續快速增加。行業專家預測,作為數字經濟和實體經濟深度融合的新模式,AIGC將在賦能產業創新發展方面大有作為。

張勇東表示,“AIGC-X不是一個靜態的技術,而是隨著AIGC的發展而發展的。”目前受限於時間和資源,AIGC-X對非常規問題和場景的支持還有待完善。例如,AIGC-X目前隻支持中文內容的檢測,對英文的支持有待提高﹔還需要進一步完善對圖像、音視頻等內容的檢測能力,支持全媒體的內容檢測,為AIGC的健康發展保駕護航。

(責編:王震、章斐然)
關注公眾號:人民網財經關注公眾號:人民網財經

分享讓更多人看到

返回頂部