張嘴、搖頭，攝像頭在捕捉到觀眾的動作后，屏幕上原本靜態的人像瞬間“動”了起來，動作幅度和真人完全一致，還能眨眼和露齒微笑，仿真度很高﹔觀眾拍完一張照片后，幾分鐘內就能生成一段視頻，將觀眾的臉自動替換掉某影視劇中知名演員的臉。11月8日，2022“互聯網之光”博覽會正式開幕，北京瑞萊智慧科技有限公司演示的“換臉術”吸引眾多觀眾駐足圍觀。

“深度合成技術能夠升級傳統內容制作方法，提升內容制作效率和質量，為諸如虛擬IP的打造和運營、影視劇的本地化配音、數字替身等新場景的應用提供了技術支撐。”據介紹，該技術同時大大降低了信息造假的難度，安全隱患不容忽視。隻需要拿到一張照片，就能生成非常逼真的偽造視頻，用於捏造虛假信息、影視資料造假、惡搞特定人物等。

隨著技術開源、標准化工具的推出，制作一段虛假內容的門檻越來越低，導致近年網絡社交平台上虛假視頻的數量高速增長。隨著技術的不斷成熟，合成視頻在清晰度、流暢度、逼真度等各方面都有大幅提升，危害性不斷增強。更需要警惕的是，這項技術被黑產分子用於新型詐騙。

工作人員現場演示了黑客如何利用“AI換臉”破解線上銀行的人臉核驗系統，通過表情操縱讓照片做出“張嘴、眨眼、搖頭”等指令性動作，再讓智能設備不啟動攝像頭，直接底層注入合成的動態人臉視頻，順利繞過活體檢測，順利破解人臉識別。

據了解，這一方式被不法分子廣泛用於盜刷銀行卡、非法辦理手機卡等詐騙場景。除了欺騙機器外，還可以通過偽造電話語音、視頻通話畫面等欺騙真人，引誘轉賬、實施敲詐等。

深度合成技術的加速應用已成為現實趨勢，為避免大規模技術濫用，瑞萊智慧推出的深度偽造內容檢測平台DeepReal，可快速、精准地對圖像、視頻、音頻內容進行真偽鑒別。據了解，該平台基於千萬級訓練數據，能夠實現毫秒級檢測速率，每幀畫面檢測時間僅需30毫秒，同時在主流數據集檢測准確率達99%以上，在實際產業中檢測准確率達到業界頂尖水平。

目前，該技術已在網絡虛假內容甄別、人臉資料審核、影像物証真實性檢驗等場景落地應用，實現對真偽內容的高效鑒別，對財產詐騙、虛假宣傳、証據造假等違法行為的有效打擊。

創立於2018年的瑞萊智慧，依托清華大學人工智能研究院發起設立，由清華大學人工智能研究院名譽院長張鈸院士和基礎理論研究中心主任朱軍教授共同擔綱首席科學家，是國內首家致力於安全、可信、可靠、可擴展的第三代人工智能技術的團隊，提供人臉識別系統安全、自動駕駛系統安全、深度合成和偽造檢測、隱私保護計算、AI攻防靶場等產品服務，目前已廣泛落地政務、金融、能源、制造、互聯網等領域。

2021年9月世界互聯網大會期間，其自主研發的“安全可靠可控的新一代人工智能平台”入選全球領先科技成果，與華為、阿裡巴巴、安謀科技等頂尖科技企業同台，成為該獎項設立以來首個入選的創業項目。（記者 劉艷）

關注公眾號：人民網財經

分享讓更多人看到