孙燕姿后轮到“卷福”?AI合成声音技术遭滥用 电信诈骗险些得手
科创板日报 2023-05-15 13:00:07

《科创板日报》5月15日讯(编辑 宋子乔)AI为各行各业装上效率加速器的同时,也可能被不法之人用作诈骗工具。


【资料图】

据英国媒体《每日邮报》报道,一家西班牙小型电影制作公司(Peabody Films)称收到英国著名男演员“卷福”本尼迪克特•康伯巴奇(Benedict Cumberbatch)发电话,对方表示对该公司即将拍摄的电影感兴趣,想寻求合作。

这部电影的导演称,他们最初收到了自称是好莱坞明星经纪人发来的电子邮件,谨慎起见,他建议打个电话,而来电声音与康伯巴奇的相似度有100%,“是那个声音,毫无疑问。”该公司后又与“康伯巴奇”进行了几次通话

这导致这位导演一开始完全相信对方正是康伯巴奇本人,“当我们接到电话时,简直不敢相信自己的运气,康伯巴奇是当下最有才华的演员之一,他居然会主动联系我们并对我们的项目表现出兴趣。”

随后,该电影公司几次邀约见面,“康伯巴奇”都拒绝了,甚至还提出要该公司先打款20万英镑(约合人民币170万元)。这时公司意识到了可能遇到了骗子,向“康伯巴奇”的经纪公司确认后才发现,这是一场AI骗局。

“当发现自己是AI诈骗受害者时,我们感到非常震惊和失望。”该导演表示。目前,该电影公司正考虑是否报警。

被中国观众称为“卷福”的本尼迪克特•康伯巴奇可以说是英国国宝级演员,他被英国女王授予大英帝国司令勋章,也被《时代周刊》评为全球最具影响力人物之一。不论在热门英剧《神探夏洛克》里,还是在好莱坞大片《奇幻博士》中,康伯巴奇都是自己配音。由于声音很有辨识度,“卷福”还被力邀为《霍比特人》里的恶龙等虚拟形象配音。

这仅仅是AI合成声音用于诈骗的一例。

据报道,近日,国外一名网友用美国知名歌手弗兰克•奥申(Frank Ocean)的歌曲片段用以训练AI,之后用AI生成了大约9首仿冒其风格的歌曲,随后该网友于4月初在论坛上发布了这些曲目,并将其伪造成唱片录制时的泄露片段,通过出售这些音乐骗取了约970美元(约合人民币6700元)。

当下的AI技术不仅可以克隆真实的人声,还可以通过声音进行“二次创作”。近段时间,通过模型训练和后期处理,模拟真人歌手孙燕姿声音进行翻唱的“AI孙燕姿”走红网络。

另一方面,越来越多的开源模型让相关工具的使用门槛进一步降低,非编程人员便可利用AI工具快速“调教”出想要的声音。

AI歌手的翻唱歌曲,正是由多位创作者通过开源项目“so-vits-svc”自制后并上传。今年早些时候,微软研究人员展示了一种文本转语音AI模型“VALL-E”,该模型只需3秒钟音频,就可以合成任何人的声音,保留说话者的情绪基调,并可以说出任何内容。

这些都便利了骗子制造假信息。网络安全公司迈克菲发现,在美国、英国、法国、德国、日本、澳大利亚和印度,有10%的人曾被人工智能语音诈骗。

除了声音诈骗,AI在图像、视频上的创造能力同样不得不让人提高警惕。AI专家阿列克谢•希特罗夫曾向媒体表示,AI生成的虚假图像和声音已经被广泛用于商业欺诈。

尚品宅配、索菲亚竞推低价套餐 回击欧派还是跟风炒作?

2023-09-09

Gartner最新报告:2024年全球电动汽车总出货量有望突破1800万辆【附新能源乘用车市场分析】

2023-09-09

示范区召开城镇公共管网供水价格调整听证会

2023-09-09

玩家扮演保罗迷路进入神秘森林 探索森隐世界的秘密

2023-09-09

俄罗斯外交部召见亚美尼亚驻俄大使

2023-09-09

《王者荣耀》KPL 夏季赛总决赛 9 月 10 日开打:重庆狼队对战广州 TTG

2023-09-09

如果眼睛近视了怎么办(眼睛近视了怎么办)

2023-09-08

来了解下:超声炮做一次能维持多久?超声炮多久可以做第二次?

2023-09-08

【石榴花开 籽籽同心】吉林延边:奏响乡村振兴新乐章,绘就民族团结“同心圆”

2023-09-08

2023至2024可可托海国际滑雪度假区价格表

2023-09-08

新款卡罗拉1.2t发动机耐用吗(可靠性怎么样)

2023-09-08

再获4艘4.66亿美元!韩国造船海洋提前完成年度目标

2023-09-08

最简单做泡泡水的办法不会破(最简单做泡泡水的办法)

2023-09-08

在港大,重走张爱玲“上学路”丨纪念张爱玲逝世28周年

2023-09-08

手机后膜是什么

2023-09-08

一个高三班主任给学生的毕业赠言,震撼全场!此文必火!

2023-09-08

环视角 | 家居企业亮出上半年成绩单 政策利好哪些市场空间?

2023-09-01

武昌造船交付一艘19700载重吨化学品船

2023-09-01

3股获买入评级 最新:索菲亚

2023-09-01

轻食主义的优势(轻食主义简介)

2023-09-01