这是没有人想要的名人身份的新徽章。詹妮弗·安妮斯顿、奥普拉·温弗瑞和凯莉·詹纳的声音都被骗子克隆了。网络八卦者使用人工智能来模仿电视财务顾问马丁·刘易斯的虎式音调。本周末，大卫·爱登堡（David Attenborough）称自己“深感不安”，因为他发现自己的克隆声音被用来发布美国党派新闻简报。
现在，专家们警告说，随着技术人员将以前笨重的语音发生器打磨成能够模拟人类语调最微妙的停顿和呼吸的模型，语音克隆正在超越法律。为英国议会一个委员会提供咨询的电影和电视人工智能专家多米尼克·李博士周一告诉《卫报》：“我们的隐私和版权法还没有跟上这项新技术的发展，所以大卫·爱登堡几乎无能为力。”李正在为下议院文化、媒体和体育特别委员会提供咨询，该委员会将调查人工智能在电影制作中的道德使用。
他还召集了合成媒体研究网络，其成员包括制作已故聊天节目采访者迈克尔·帕金森的人工智能版本的公司，这将导致一个由八部分组成的无剧本系列《虚拟帕金森》，并有新的嘉宾。这个声音克隆项目是在帕金森的家人和遗产的同意下进行的。李说：“单位肯定需要研究（语音克隆），因为这是一个主要的欺诈问题。”。“它需要单位监管的大棒来阻止（滥用）……我们不能让它成为一个免费的。”
根据NatWest银行本月的研究，去年英国的人工智能语音克隆骗局增加了30%。另一家银行Starling bank发现，在过去的一年里，28%的人至少一次成为人工智能语音克隆骗局的目标。据报道，语音克隆也被欺诈者用来实施一种版本的“嗨妈妈”短信骗局，在这种骗局中，欺诈者假扮成需要父母紧急汇款的孩子。在已经模糊不清的电话线上，很难发现一个恳求的孩子是骗子的克隆。
建议消费者挂断电话，然后拨打一个值得信赖的号码进行查询。未经同意克隆声音的人发现这不仅仅是一种滋扰。爱登堡周日告诉英国广播公司：“我花了一辈子的时间试图说出我认为是真相的话，但我深感不安地发现，这些天我的身份被别人盗用了，我强烈反对他们用它来表达自己的意愿。”
当OpenAI最新人工智能模型ChatGPT-4o上的一个新语音选项的音调与演员斯嘉丽·约翰逊的音调非常接近时，她说她感到震惊和愤怒，因为这个声音“听起来和我的声音非常相似，我最亲密的朋友和新闻媒体都分不清”。克隆声音的兴起引发了一个问题，即他们错过了真正的人类音调。Lees说：“最大的问题是人工智能不理解情绪，也不理解情绪如何改变一个单词或短语对情绪的影响，以及你如何改变声音来表达这种影响。”
为广告、动画和教学培训提供声音的配音行业必须对技术进步做出快速反应。伦敦Voiceover画廊的音频主管乔·刘易斯表示，该画廊已经克隆了一些艺术家的声音。该画廊为Specsavers和National Express的广告提供了真实的人声。他说，人工智能似乎最适合英国男性的声音，也许是因为这反映了用于训练算法的录音类型的偏见，但他警告说，总的来说，“它的生成方式会让你不那么专注”。他说：
“当人工智能（声音）呼吸时，这是一种非常重复的呼吸。”。“呼吸在正确的位置，但感觉不自然……[但是]它能达到真正完美的地步吗？我不明白为什么不能，但要达到完整的情绪频谱还有很长的路要走。”