据央视新闻报道 近日，湖南省长沙市雨花区人民法院审理了一起“不法者利用AI（人工智能）技术生成的人脸伪造视频盗刷银行卡”案件。一名大学生在非法网站购买了“AI人脸伪造视频”技术，在不到四个月的时间里，盗刷银行卡5万余元。
相关不法团伙分工明确，形成新型黑灰产业链。审理此案的法官说，诈骗团伙通过境外软件招募“帮手”，利用转换的AI动态人脸视频及验证码信息骗过人脸识别系统，重置受害者的支付密码，再交由洗钱团队转移资金。
利用“AI人脸伪造视频” 大学生盗刷5万余元
不久前，临近毕业的大学生吴某没有选择正规渠道去就业，而是盯上了网络黑灰产业。他通过第三方非法网站购买了一项“能将静态人脸照片转化为可通过某银行支付平台人脸识别验证的AI动态视频”的技术。自以为获得了“法宝”的吴某随后立即在各聊天平台发布广告，吸引诈骗团伙“下单”。
长沙市雨花区人民法院刑事审判庭副庭长兰毅说，被告人通过境外某聊天软件寻找并加入黑灰产业聊天群后，在群内发布接单信息，之后会有上线将获取到的被害人姓名、身份证号码、手机号码、照片、支付平台验证码等个人信息发送给被告人，被告人再通过获取的手机号查看被害人是否在第三方平台进行注册，如有注册，则把获取的被害人照片上传到第三方网站，通过该网站转换成AI动态人脸视频。
在该犯罪链条中，诈骗团伙通常冒充短视频平台客服或者游戏主播，以关闭自动扣费、赠送游戏装备为诱饵，诱导受害者下载控制软件，从而获取其个人信息。吴某在接收到这些信息后，再通过第三方网站利用AI技术制作被害人的人脸动态视频。
兰毅说，诈骗团伙利用转换的AI动态人脸视频及验证码信息，骗过相关平台的人脸识别系统，重置受害者的支付密码。之后，再将受害者的某第三方支付平台付款码发送给“洗钱车队”，由“洗钱车队”通过扫码的方式将被害人在第三方支付平台所绑定的银行账户资金予以转移。转移成功后，“洗钱车队”将盗取的资金按照一定的比例通过虚拟货币的形式返还给被告人。
就这样，在不到四个月的时间内，三名受害者的银行账户先后被盗刷共计5万余元。经审理，法院综合考虑吴某具有自首情节，认罪悔罪表现及对被害人的经济赔偿等情况，最终判处吴某有期徒刑一年十个月，并处罚金3000元。目前，该案件判决已生效。
人脸照片经AI处理 可通过平台面部认证
通过AI技术，将照片处理生成一段动态的视频，是如何通过银行支付系统人脸识别验证的？眨眼、张嘴、转头等这些指令的随机组合，难道就恰好都和视频中人脸的表情动作对得上吗？
记者来到一家网络技术研究机构，技术人员将一张普通人脸照片导入某软件系统后，仅需几分钟时间，便生成了一段人脸动态视频。在视频中，记者看到，人脸可以根据技术人员事先输入的指令进行转头、眨眼等动作。
网络安全技术人员李洋举例称，不法分子可通过远程控制受害者的手机，获取其生活照片，再通过相关AI工具，生成一段一段的眨眼、点头等动作的视频。
李洋介绍，如果想让视频中的人脸根据随机指令组合做出实时反应，则需要一种名为“虚拟相机”的配套软件。为举例展示，技术人员将一张卡通人脸照片导入系统，记者看到，经过后台技术处理，这张照片通过AI生成了动态视频，视频中的卡通人脸可以随着技术人员控制上、下、左、右以及眨眼、张嘴等不同动作的按钮操作，实时做出相应的表情动作。
“不法分子在远程控制下开启相机，默认直接调用虚拟相机，然后把悬浮窗调出来，支付系统需要什么动作时，不法分子就去点对应的动作的按钮即可。”李洋说，“他们会提前录制好眨眼、摇头等动作，在系统认证时，根据提示选择对应动作按钮。”
技术人员介绍，随着目前系统技术升级改造，许多政府以及金融类的应用平台除了要验证人脸面部特征以及五官等信息之外，还会验证微表情以及环境光线等，尽量确保是本人在真实的环境下进行的人脸识别验证，而非AI技术合成。
基于此，专家提醒，在遇到一些不明来历的应用软件采集人脸信息时，还是要提高警惕。这些软件会通过伪造的人脸认证操作界面，误导个人进行视频录制。记者调查发现，目前在某些网站上，“一键换脸”“AI克隆”已经形成一灰色产业链条。
不过，专家也表示，大家无需过于恐慌，目前政府以及金融等类型的应用平台通常采用的是“人脸识别+手机验证+身份信息”等多重验证方式，只要确保自己手机不交给不明人员操作或不被非法远程控制，这些措施是能够保证基本的安全性的。
提醒
资金交易时开启多重验证
法律专家表示，“AI人脸伪造视频”诈骗相比传统电信诈骗，最大的特点就是技术伪装更强，链条更隐蔽，证据灭失更快。很多诈骗视频或语音由境外服务器生成，很难快速锁定幕后真实身份。
中国政法大学网络法学研究所所长李怀胜表示，这就要求银行等单位采取交叉识别等多元化认证手段。也提示我们在日常网络活动中，要格外珍视人脸识别信息等个人信息。
据了解，目前我国已出台《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》《人工智能生成合成内容标识办法》等。李怀胜说，按照《中华人民共和国个人信息保护法》规定，包括人脸识别信息在内的其他个人信息，信息使用遵循最重要的个人知情同意原则。
同时，专家提醒大家，需不断提高个人信息保护的安全意识，提升防范能力。对于非核心业务如进小区、取快递等，尽量避免“刷脸”。如果在涉及类似资金交易等场景下，尽量开启“人脸+密码”或“人脸+短信”的多重验证，增加安全屏障。