新智元报导
修改：张佳
【新智元导读】被AI骗走100多万是一种怎样的体会？据报导，违法分子运用AI仿照老板打电话，要求一家英国公司转账22万欧元，成果这家公司就上当了。万万没想到，现在AI不仅能换脸，换声也不在话下。
AI换脸余波未退，AI换声进行电话欺诈的戏码居然成真了！
据《华尔街日报》报导，本年3月，有欺诈犯运用AI仿制了英国某动力公司母公司CEO的声响，成功拐骗公司高管通过匈牙利供货商向其转账22万欧元（约173万元人民币）。
网络专家称，这是黑客用人工智能违法非比寻常的事例。
运用AI假装老板声响，连口音都能装，1个电话骗走173万
工作是这样的，英国某动力公司的CEO接到一个电话，他以为自己在和德国母公司CEO通话，对方要求他把钱转给匈牙利供货商，并表明此事十分紧迫，要在一个小时内付款。
法律当局和AI专家猜测，违法分子运用了人工智能来完成主动化网络进犯。不管这一事情背面黑手是谁，好像现已运用依据人工智能的软件通过电话成功仿照德国高管的声响。总部坐落慕尼黑的金融服务公司Allianz SE的子公司Euler Hermes的欺诈专家Rüdiger Kirsch表明，英国CEO听到了他老板细微的德国口音以及他在电话中的声调。
一些官员表明，欧洲的语音欺诈进犯是他们听到的第一个网络违法，其间违法分子显着依靠人工智能。依据Kirsch的说法，Euler Hermes承当了受害公司索赔的悉数金额，之前并没有处理过其他要求追回触及人工智能违法的丢失的索赔。
Kirsch表明，运用AI的欺诈对公司来说是一个新的应战，以往的安全东西无法检测到。因而，网络安全公司最近开发了用于检测所谓deepfake录音的产品。
欧洲刑警安排欧洲网络违法中心战略负责人Philipp Amann说：现在尚不清楚这是否是初次运用人工智能的进犯，或许当局没有检测到运用了这一技能。尽管很难猜测运用AI的网络进犯是否会很快呈现上升，但Amann先生表明，假如黑客运用AI进犯更成功或更有利可图，他们更有或许运用该技能。
Kirsch说，欺诈英国动力公司的黑客打了三次电话。22万欧元搬运后，黑客打电话说母公司搬运资金归还英国公司的费用。然后他们在当天晚些时分进行了第三次电话会议，再次假充首席执行官，并要求第2次付款。因为转账归还资金还没有收到，而第三次电话是来自奥地利的电话号码，行政部门开端置疑，没有付出第二笔金钱。
转入匈牙利银行账户的资金随后搬运到墨西哥并分发到其他地方。基尔希先生说，查询人员没有发现任何嫌犯。
现在还不清楚进犯者是否运用机器人对受害者的问题作出反应。Amann说，假如他们这样做，法律当局查询或许会愈加困难。
Kirsch以为，黑客运用商业语音生成软件来进行进犯。Kirsch用一种这样的产品录制了自己的声响，并说克隆的版别听起来很实在。
网络安全公司Endgame的数据科学主管Bobby Filar表明，一些软件公司供给的服务能够敏捷克隆声响。“你不需求成为数学博士就能运用它。”Filar说。
黑客能够运用的另一种战略是将音频样本拼接在一起以仿照一个人的声响，这或许需求数小时的录音。安全研讨人员上一年在Black Hat大会上展现了这项技能。
进犯者能够运用揭露的录音来假充名人或高管。
Filar说：“你不或许四处走动却一向保持沉默。每个人都或许遇到这样的状况，你会暴露出你从未想过能够用来抵挡你的信息。”
联合国区域间违法与司法研讨所人工智能与机器人中心负责人Irakli Beridze说：将机器学习技能应用于欺诈性声响使网络违法变得愈加简单。
联合国中心正在研讨检测虚伪视频的技能，Beridze先生称这关于黑客来说或许是一个更有用的东西。就英国动力公司而言，一个不了解的电话号码总算引起了置疑。“幻想一下，以CEO的声响进行视频通话，这是您了解的面部表情。那么你底子不会有任何疑虑，“他说。
AI换声只需5秒样本，谷歌项目开源
其实，运用AI克隆一个人的声响也不是什么新鲜事，百度上一年就推出了一种新的神经语音克隆体系，只从少量音频样本中就能组成一个人的声响。
谷歌旗下的加拿大公司Lyrebird，只需一分钟音频即可生成与用户语音特征高度类似的数字语音。
谷歌也宣布过一篇题为“Transfer Learning from Speaker Verification to Multispeaker Text-To-Speech Synthesis” (SV2TTS) 的论文，描绘了一种用于文本到语音（TTS）组成的依据神经网络的体系，该体系能够以许多不同发言者的声响发生语音音频。
SV2TTS是一个三阶段的深度学习结构，能够从几秒钟的音频中创立语音的数字表明，并运用它来调理文本到语音的模型，该模型通过练习可概括为新的语音。也就是说，只需5秒钟的音频样本，就能够克隆一个人的声响。
视频演示
该体系由三个通过独立练习的组件组成：
speaker encoder网络
依据Tacotron 2的序列到序列组成网络，其以语音嵌入为条件，从文本生成mel频谱；
一个主动回归的依据WaveNet的声码器，它将mel频谱图转换为一系列时域波形样本。
Speaker Encoder是谷歌之前提出的说话人辨别网络，该深度网络独自预练习，练习语料运用很多的说话人音频，不需求对应文本，且音频能够充溢噪音，该部分网络输出固定巨细的speaker embedding，说话人向量就编码了说话人的声响特征。
这项研讨证明了所提出的模型能够将由通过判别练习的说话者编码器学习的说话者可变性的常识传递给多语言TTS使命，并且在看不到说话者的状况下能够从练习期间组成天然语音。
最终，咱们证明随机抽样的speaker embedding能够用来组成新说话人语音中的语音，这表明该模型获得了高质量的说话人表明。
论文地址：https://papers.nips.cc/paper/7700-transfer-learning-from-speaker-verification-to-multispeaker-text-to-speech-synthesis.pdf
音频样本：https://google.github.io/tacotron/publications/speaker_adaptation/
开源地址（非官方）：https://github.com/CorentinJ/Real-Time-Voice-Cloning
在AI能够换脸、换声的今日，咱们在开展AI的时分也需求警觉，增强自己的安全意识。能够预见，未来运用AI进行网络违法的数量将大幅增加，怎么应对是值得咱们沉思的问题。
参阅链接：
https://ounts-wsj
