《財米油鹽》|“AI孫燕姿”騙過你的耳朵,“AI換臉”想騙你的錢包!
最近,關於AI有兩個爆火的熱點事件:一個是“AI孫燕姿”走紅網絡﹔一個是“AI換臉”詐騙來襲。兩件看似無關的事情,都引發了大眾對於AI雙刃劍的深度思考。
“AI孫燕姿”爆火網絡 版權問題引爭議
首先,“AI孫燕姿”絕對算得上是今年上半年最火的華語歌手,緊隨其后的還有“AI周杰倫”“AI林俊杰”“AI王心凌”。以前聽說AI能編曲、能畫畫,現在你會發現,舞台上大明星的角色,AI同樣能勝任。甚至不需要本人參與,歌手們的“新專輯”已經滿天飛了。
這到底是怎麼回事?據了解,有人用孫燕姿現有的人聲樣本,通過AI訓練音色、音質和發音特點,建立起其聲音模型,再利用所生成的音色對其他歌曲進行翻唱,便有了“AI孫燕姿”。而這運用的是一款開源AI語音轉換軟件,其原作者已於今年停止更新維護,但仍有不少網友在目前版本上進行獨立開發新功能。
網友對虛擬歌手的創作熱情,蘊含著對新興技術的認可與追求。早在十年前,以“初音未來”“洛天依”為代表的虛擬偶像便陸續進入公眾視線,其聲音正是由真人聲源數據制作而成。隨著技術迭代發展,以“AI孫燕姿”為代表的“真人分身型”虛擬歌手閃亮登場,“侵入”的不僅是大家的“童年回憶”,更有一些法律上的模糊地帶。
通過AI聲音克隆技術產生的新歌曲,在聲音、風格上與歌手本人相似度極高,導致不少網友都信以為真。這種模仿侵權嗎?
我國《著作權法》保護的作品范圍包括文字作品、口述作品、音樂、美術作品等,聲音並不在列。因此,單純模仿表演者的音色、演唱技巧等特征,並不屬於《著作權法》保護的對象。另外,僅在某一家視頻平台上,“AI孫燕姿”的翻唱作品已過千首,其中翻唱歌手周杰倫的《發如雪》等作品甚至斬獲超兩百萬的播放量。多位律師對此表示,虛擬歌手翻唱的作品展示了具體的歌名及歌手姓名,涉嫌侵害相關歌手的姓名權、人格權,以及歌曲的版權等。即使一些發布者在視頻中標注了“僅供娛樂不得用於商業”的免責聲明,其背后的巨大流量和經濟收益難以明確,在侵權問題上也就沒辦法完全撇清。
“AI換臉”詐騙來襲 有人10分鐘被騙430萬
目前,孫燕姿本人已經對自己的“AI版本”音樂爆火作出了回應。不過,網友對於人工智能技術應用的擔憂並沒有停止。
5月,美國蘋果公司宣布擬在軟件新版本中嵌入一項新功能:因各種原因造成說話能力逐漸喪失的手機用戶,可通過錄制15分鐘的音頻,創造出獨一無二的“個人定制語音”,在其說話能力喪失后仍能正常使用手機的通話、視頻功能。對此,不少用戶表示擔心該技術更容易被不法分子利用,比如通過制作虛假視頻、錄音,用於實施電信詐騙。
這種擔心並非杞人憂天。據警方介紹,不久前一位福建的老板就掉入了“高端”詐騙局,因為輕信了用“AI換臉”的騙子,短短10分鐘就損失了430萬元。
AI發展速度之快,帶來的不僅有“失業焦慮”,的確也向人們提出了“真假辨別”的新挑戰。目前。一些歐盟國家已經開始對人工智能投喂數據問題進行審查。今年3月,國外多家出版商對ChatGPT在數據訓練時使用的版權內容提出抗議,要求其公司OpenAI進行賠償。
在國內,人工智能產業的規制體系也在不斷積極完善中。去年底,國家網信辦發文要求,在提供合成人聲、仿聲、人臉替換、姿態操控等深度合成服務時,應當提示使用者依法告知被編輯的個人,並取得其單獨同意﹔並且合成內容如果可能導致混淆或者誤認的,必須在合理位置上進行顯著標識,交代合成作品的具體信息。今年4月,國家網信辦又起草了《生成式人工智能服務管理辦法(征求意見稿)》,明確預訓練、優化訓練的數據,不得含有侵犯知識產權的內容。
出品人:葉蓁蓁
總策劃:羅華
總監制:孫海峰
制片人:章斐然
監制:呂騫
策劃:陳鍵
文案:申佳平
攝像:史新培
剪輯:王琨
設計:林珊珊
資料整理:劉文靜(實習生)
分享讓更多人看到
- 評論
- 關注