警惕“AI换脸换声”诈骗

□本报记者 徐杨

新兴的人工智能（AI）技术，为大众带来便利的同时，也给不法分子提供了可乘之机。近年来，利用AI技术进行图像、视频、音频的深度合成、深度伪造现象凸显，已然成为了一种新型的违法犯罪手段，让不少人蒙受钱财、名誉损失。

“耳听非真”，AI克隆语音又快又准

某公司财务小王接到领导电话，要求立刻给供应商转款2万元，并将转账信息以邮件形式发送，转款理由为避免缴纳滞纳金。由于老板的口音十分逼真，小王信以为真，立马转账。这就是典型的AI合成语音诈骗。

据介绍，现在的AI技术只需要几秒钟的对话，就能准确模仿声音，且相似度极高。不法分子会通过拨打骚扰电话等方式，录音提取诈骗对象及其重要关系人的声音特征，利用AI技术进行语音合成，使诈骗对象放松警惕，进而用伪造的声音实施诈骗。

全球最大的专业安全技术公司McAfee 5月公布的最新报告称，AI语音诈骗日益猖獗，在接到诈骗电话的群体中，77%的人出现了经济损失。2022年，相关诈骗在美国造成26亿美元损失。报告中指出，AI语音克隆工具的准确率高达95%，而且非常便宜。不法分子从人们在社交媒体上分享的声音中获得样本音频，只需从分享的视频中提取几秒钟的音频，就能克隆成功。

“眼见非实”，AI换脸诈骗迷惑性强

在热播剧《猎罪图鉴》中，犯罪分子利用AI换脸技术，以受害者儿子的形象制作了一条视频，要求受害者再筹25万美元给他解决国外的麻烦。受害者信以为真，将钱款汇给了犯罪分子。电视剧中的剧情并不夸张，这样的诈骗手段，就出现在我们身边。

今年，我市警方通报了一起案例。小刘的初中同学“小韩”通过QQ联系小刘，准备借6000元钱，小刘向来谨慎，担心“小韩”不是本人，没想到“小韩”发来一条语音，声音很像本人，后来“小韩”又给小刘打了一通视频电话，看到对方的脸后，小刘便相信了对方，于是小刘便给“小韩”提供的银行卡转了6000元。小刘转完钱后越想越不对劲，觉得“小韩”表情僵硬，于是拨打小韩的电话，没想到小韩的QQ账号被盗了，这才意识到被骗，随后立即报警。

无独有偶。近日，福州的李先生遭遇了冒充领导诈骗，被骗了48000元。骗子冒充李先生的领导“曾某”，伪造微信账号添加李先生后，竟然直接跟李先生微信视频。视频中，李先生看到领导“曾某”正在某会场开会，称不便接听电话，打完招呼后改为文字聊天。“曾某”说他有个亲戚正在参加某项目竞标，急需周转资金，自己不便出面，想先将钱转给李先生，再借李先生的名义转给亲戚。既然都视频确认过了，李先生不疑有他，向“曾某”提供的账户转账48000元，后发现被骗。

此外，AI换脸技术还会与“冒充公检法”诈骗、“杀猪盘”诈骗等结合起来实施诈骗。我市警方曾通报，一男子虽然识破了裸聊诈骗骗局，但因为聊天过程中露了下脸，被骗子AI换脸合成了不雅视频，并威胁要发给其亲友。担心伪造的“裸聊”视频被传播，该男子无奈之下只能答应对方的转账要求，最终被骗11万余元。

加强个人信息保护，提高警惕防范诈骗

一开始，AI换脸技术的出现多为娱乐恶搞，最常被换脸的都是明星艺人。随着技术的发展和普及，一些“换脸”App、小程序、网页逐渐走红。不少市民也觉得新鲜有趣，主动体验，只要动动手指，就能轻松“换脸”。

AI换脸不仅可以替换现成的图片、视频，有的软件还可以实时捕捉替换人脸用于视频聊天。用户只需选择一张要换的脸的照片，软件就可以把其变成对应的脸。这个时候，用户做什么动作，被换的人脸也会做什么动作，眨眼、张嘴、点头、摇头都可以，动作非常逼真。

不过，这些软件的隐患并不少。一些不法分子会专门将各种分散的图片、视频等信息收购出售。有报道显示，一些电商平台以0.5元每份的价格出售匹配了身份信息的人脸数据。业内人士表示，一旦不法分子利用AI技术将照片进行活化，就可以做出模拟真人的点头、摇头、眨眼、说话等行为，极易被用作办理网贷或实施精准诈骗。

“利用AI技术实施的诈骗往往都是精准诈骗，不法分子会分析诈骗对象在网络平台发布的个人信息，根据所要实施的骗术，利用AI技术对人群进行筛选，从而选出目标对象，制定诈骗计策。”市反诈中心提醒市民，为避免骗子窃取个人信息实施诈骗，市民应当加强个人信息保护意识，如尽量不要安装非正规渠道的软件，不加陌生好友，设置朋友圈权限，切勿接听任何陌生人邀请的视频验证或语音聊天，以防止骗子利用AI技术搜集人脸、声音等素材，掌握个人信息并对人物性格、需求倾向等进行刻画，从而有针对性地实施诈骗。

事实上，“AI换脸换声”诈骗仅是手段新颖，最终目的还是骗钱。对此，市反诈中心提醒，涉及转账时，一定要多重验证确认，在不能确定真实身份时，要格外留意、不要着急汇款，建议将到账时间设定为“2小时到账”或“24小时到账”，以预留处理时间。一旦被骗，及时报警。