人民網
人民網>>經濟·科技

生成式AI下一站:文本轉視頻

技術與道德倫理挑戰如影隨形

劉 霞
2023年04月14日08:47 | 來源:科技日報
小字號

聊天機器人ChatGPT的爆紅,讓生成式人工智能(AI)成為科技領域的“當紅炸子雞”。除了如今“霸屏”的類似ChatGPT的語言模型之外,生成式AI領域還有大量其他技術:文本生成圖像正在成為一種主流的聊天形式,而能夠將文本轉換成視頻的生成式AI則是“羞答答的玫瑰靜悄悄地開”,有望成為該領域下一個“大事件”。

但專家也指出,盡管文本生成視頻AI有望應用於娛樂、藝術等諸多領域,但從技術到倫理道德等多方面都面臨挑戰。

文本生成視頻初露頭角

紐約人工智能初創企業朗韋(Runway)公司軟件架構師伊恩·桑薩韋拉在電腦上輸入了一段簡短的文字:森林中一條寧靜的河流。

約兩分鐘后,該公司開發的生成視頻模型Gen-2就生成了一段短視頻:在陽光的照耀下,河面波光粼粼,河水蜿蜒穿過森林和草叢,輕輕撞擊岩石。

朗韋公司計劃近期向少數測試人員開放Gen-2服務。該公司表示,用於圖像和視頻合成的深度神經網絡正變得越來越精確、逼真和可控,也使人們能獲得極其逼真且兼具美學藝術的圖像,催生合成媒體的興起。

據“數字趨勢”網站3月27日報道,僅過去7天就有5款此類AI視頻生成器面世:朗韋公司的Gen-2,美易(Picsart)公司的Text2Video-Zero、Video-P2P、TemporalNet,以及中國阿裡巴巴公司研發的Text-to-video。

弄潮兒向潮頭立!這些系統AI競爭進入下一個階段,微軟和谷歌等行業巨頭和小規模初創企業紛紛入局。

據《印度時報》報道,早在2022年9月,元宇宙平台公司就展示了“制作一段視頻”(Make-A-Video)軟件。隻需輸入幾個字詞,軟件就能制作出無聲視頻。谷歌公司緊隨其后,推出了生成式AI模型Imagen Video。該公司稱,給出一段文本提示,Imagen Video就能生成高清晰視頻。該公司還展示了另一款模型Phenaki,目標是在輸入文本的基礎上,制作出長視頻。

《紐約時報》的報道指出,這可能是技術領域的下一個重大事件,其重要性堪比網絡瀏覽器或iphone的誕生。

相關技術亟待改進

不過,也有專家指出,這些AI軟件的質量良莠不齊,面臨一些技術挑戰。

比如,桑薩韋拉生成的“清泉石上流”的視頻時長隻有4秒,如果細看,會發現畫面不太連貫,畫質也比較模糊,有時還會出現怪異、扭曲、令人不安的畫面。

美國《Vice》雜志網站則在3月28日的報道中,將AI生成的“威爾·史密斯吃意大利面”的視頻評為最怪異AI生成視頻。在Modelscope生成的視頻中,面容扭曲的史密斯看起來更像由他配音的電影《鯊魚故事》中那條怪異的魚,他試圖將成堆的面條舀進嘴裡,從叉子上或手中咀嚼大塊意大利面。這是一個噩夢般的定格動畫視頻,僅由一行無害的文字生成:威爾·史密斯吃意大利面。

DeepMedia.AI是一家美國初創公司,其為美國政府構建數據集,為高精確檢測“深度造假”內容提供支持,該公司創始人兼首席執行官瑞杰勒·古普塔4月4日接受媒體採訪時指出,目前AI生成的視頻存在兩個主要的問題:首先,單幀並不完全逼真﹔其次,幀與幀之間的銜接並不流暢。不過,通過使用越來越多的數據訓練,這種技術應能解決這些問題,快速提高和擴展這些文本生成視頻系統的能力。

改良后的視頻生成系統可加快電影制片人和其他數字藝術家的工作速度。專家認為,他們很快就能在這些系統的加持下,制作出配有音樂和對話、看起來非常專業的微電影。

有專家認為,未來AI生成視頻有可能制作出可信且良好的內容,並喚起人類的情感。

“深度造假”值得警惕

這些系統還會成為一種快速制造難以覺察的網絡虛假信息的新方式,使人們更難辨別互聯網上的真實信息,深度偽造技術目前所帶來的問題可能會變得更加嚴重。

美國麻省理工學院人工智能教授菲利普·伊索拉就表示,如果看到高分辨率的視頻,人們很可能會相信它。還有專家指出,隨著人工智能語音匹配的出現,以及逐漸擁有改變和創建幾乎觸手可及的逼真視頻的能力,偽造公眾人物和普通人的言行可能會造成不可估量的傷害,“潘多拉的魔盒已經打開”。

目前,已有公司在開發檢測軟件並將其集成到音視頻媒體平台上。

(責編:王震、陳鍵)
關注公眾號:人民網財經關注公眾號:人民網財經

分享讓更多人看到

返回頂部