人民网
人民网>>经济·科技

《财米油盐》|“AI孙燕姿”骗过你的耳朵,“AI换脸”想骗你的钱包!

2023年05月26日11:31 | 来源:人民网
小字号

最近,关于AI有两个爆火的热点事件:一个是“AI孙燕姿”走红网络;一个是“AI换脸”诈骗来袭。两件看似无关的事情,都引发了大众对于AI双刃剑的深度思考。

“AI孙燕姿”爆火网络 版权问题引争议

首先,“AI孙燕姿”绝对算得上是今年上半年最火的华语歌手,紧随其后的还有“AI周杰伦”“AI林俊杰”“AI王心凌”。以前听说AI能编曲、能画画,现在你会发现,舞台上大明星的角色,AI同样能胜任。甚至不需要本人参与,歌手们的“新专辑”已经满天飞了。

这到底是怎么回事?据了解,有人用孙燕姿现有的人声样本,通过AI训练音色、音质和发音特点,建立起其声音模型,再利用所生成的音色对其他歌曲进行翻唱,便有了“AI孙燕姿”。而这运用的是一款开源AI语音转换软件,其原作者已于今年停止更新维护,但仍有不少网友在目前版本上进行独立开发新功能。

网友对虚拟歌手的创作热情,蕴含着对新兴技术的认可与追求。早在十年前,以“初音未来”“洛天依”为代表的虚拟偶像便陆续进入公众视线,其声音正是由真人声源数据制作而成。随着技术迭代发展,以“AI孙燕姿”为代表的“真人分身型”虚拟歌手闪亮登场,“侵入”的不仅是大家的“童年回忆”,更有一些法律上的模糊地带。

通过AI声音克隆技术产生的新歌曲,在声音、风格上与歌手本人相似度极高,导致不少网友都信以为真。这种模仿侵权吗?

我国《著作权法》保护的作品范围包括文字作品、口述作品、音乐、美术作品等,声音并不在列。因此,单纯模仿表演者的音色、演唱技巧等特征,并不属于《著作权法》保护的对象。另外,仅在某一家视频平台上,“AI孙燕姿”的翻唱作品已过千首,其中翻唱歌手周杰伦的《发如雪》等作品甚至斩获超两百万的播放量。多位律师对此表示,虚拟歌手翻唱的作品展示了具体的歌名及歌手姓名,涉嫌侵害相关歌手的姓名权、人格权,以及歌曲的版权等。即使一些发布者在视频中标注了“仅供娱乐不得用于商业”的免责声明,其背后的巨大流量和经济收益难以明确,在侵权问题上也就没办法完全撇清。

“AI换脸”诈骗来袭 有人10分钟被骗430万

目前,孙燕姿本人已经对自己的“AI版本”音乐爆火作出了回应。不过,网友对于人工智能技术应用的担忧并没有停止。

5月,美国苹果公司宣布拟在软件新版本中嵌入一项新功能:因各种原因造成说话能力逐渐丧失的手机用户,可通过录制15分钟的音频,创造出独一无二的“个人定制语音”,在其说话能力丧失后仍能正常使用手机的通话、视频功能。对此,不少用户表示担心该技术更容易被不法分子利用,比如通过制作虚假视频、录音,用于实施电信诈骗。

这种担心并非杞人忧天。据警方介绍,不久前一位福建的老板就掉入了“高端”诈骗局,因为轻信了用“AI换脸”的骗子,短短10分钟就损失了430万元。

AI发展速度之快,带来的不仅有“失业焦虑”,的确也向人们提出了“真假辨别”的新挑战。目前。一些欧盟国家已经开始对人工智能投喂数据问题进行审查。今年3月,国外多家出版商对ChatGPT在数据训练时使用的版权内容提出抗议,要求其公司OpenAI进行赔偿。

在国内,人工智能产业的规制体系也在不断积极完善中。去年底,国家网信办发文要求,在提供合成人声、仿声、人脸替换、姿态操控等深度合成服务时,应当提示使用者依法告知被编辑的个人,并取得其单独同意;并且合成内容如果可能导致混淆或者误认的,必须在合理位置上进行显著标识,交代合成作品的具体信息。今年4月,国家网信办又起草了《生成式人工智能服务管理办法(征求意见稿)》,明确预训练、优化训练的数据,不得含有侵犯知识产权的内容。

出品人:叶蓁蓁

总策划:罗华

总监制:孙海峰

制片人:章斐然

监制:吕骞

策划:陈键

文案:申佳平

摄像:史新培

剪辑:王琨

设计:林珊珊

资料整理:刘文静(实习生)

专题:《财米油盐》——你的财经宝典

(责编:申佳平、吕骞)
关注公众号:人民网财经关注公众号:人民网财经

分享让更多人看到

返回顶部