行业资讯

AI合成语音技术被盗用于电信诈骗,险些得逞
发布者:鸿腾智能科技(江苏)有限公司 发布时间:2023-05-15 14:58:58 点击次数:387 关闭
人工智能在为各行各业安装效率加速器的同时,也可能被不法分子用作诈骗工具。
据英国媒体《每日邮报》报道,西班牙一家小型电影制作公司(PeabodyFilms)称接到了英国著名演员“本尼迪克特·康伯巴奇”(BenedictCumberbatch)的电话。公司对即将上映的电影感兴趣,希望寻求合作。
这部电影的导演说,他们最初收到了一封自称是好莱坞明星经纪人的人发来的电子邮件。为了小心起见,他建议打个电话。通话中的声音听起来100%像康伯巴奇。投票,毫无疑问。”该公司随后与康伯巴奇进行了几次对话。
这导致导演最初相信这是康伯巴奇本人。“当我们接到电话时,我们简直不敢相信自己的运气。康伯巴奇是世界上最有才华的演员之一。会联系我们并对我们的项目表现出兴趣。”
随后,电影公司多次邀请见面,都被“康伯巴奇”拒绝,甚至要求公司提前支付20万英镑(约合人民币170万元)。至此,该公司意识到自己可能遇到了骗子,在与经纪公司“康伯巴奇”确认后,发现这是一场人工智能骗局。
“得知我们是人工智能欺诈的受害者,我们感到震惊和失望,”这位高管说。目前,电影公司正在考虑是否报警。
被中国观众称为“卷福”的本尼迪克特·康伯巴奇,可以说是英国国宝级演员。他被英国女王授予大英帝国司令勋章,还被时代杂志评选为全球最具影响力人物之一。无论是在热播的英剧《神探夏洛克》中,还是在好莱坞大片《神奇博士》中,康伯巴奇都是他自己的代言人。因为声音很有辨识度,“娟福”还受邀为《霍比特人》中的龙等虚拟形象配音。
这只是人工智能合成语音被用于欺骗的一个例子。
据报道,近日,一位外国网友利用美国著名歌手弗兰克·海洋(FrankOcean)的歌曲片段对人工智能进行训练,然后利用人工智能生成了约9首模仿其风格的歌曲。该曲目被发布在互联网上,并伪造为唱片录音中的泄露片段,并通过出售音乐被骗走约970美元(约合人民币6700元)。
现在的人工智能技术不仅可以克隆真人的声音,还可以通过声音进行“二次创作”。近日,通过模型训练和后期处理,模拟真人歌手孙燕姿声音的“AI孙燕姿”走红网络。
另一方面,越来越多的开源机型进一步降低了相关工具的使用门槛,非程序员也可以使用AI工具快速“调”出想要的声音。
AI歌手翻唱歌曲由多位创作者通过开源项目“so-vits-svc”创作并上传。今年早些时候,微软研究人员展示了“VALL-E”,这是一种文本转语音AI模型,可以合成任何人的声音,保留说话者的情绪基调,并说出所有内容。
这些都便于不法分子制造虚假信息。网络安全公司McAfee发现,在美国、英国、法国、德国、日本、澳大利亚和印度,有10%的人曾被AI语音欺骗过。
除了音频造假,AI的图像和视频制作能力也应该让人们提高警惕。AI专家AlexeiShitrov曾对媒体表示,AI生成的虚假图像和声音已被广泛用于商业欺诈。
商务咨询 商务咨询
关于我们 产品展示 广告设计 客户案例 技术支持 联系我们

电话:0511-86930535(工作日)

手机:177-6865-8888(微信同号)

手机:137-7550-8287(微信同号)

零售:137-7550-7308(微信同号)