带货主播可能不是真人。（AI制图）
随着AI深度合成技术快速普及，AI换脸、音视频合成的技术门槛大幅降低。这项技术在赋能数字生活的同时，也被不法分子用来牟利。
前不久，浙江省杭州市中级人民法院审理了一起案件：两被告胡某运、胡某亮为快速牟利，通过境外聊天软件接触到非法信息交易链条，承接黑灰产任务，利用低成本AI换脸技术破解平台人脸活体核验，大肆窃取贩卖普通网民个人信息。和传统密码破解、木马盗号等侵权方式不同，本案是典型的AI技术滥用新型网络侵权案件。
“AI换脸”窃取个人信息
法官介绍，平台人脸识别核验一般会设置指定动作，比如点头、眨眼、摇头等，两被告根据这一流程要求，把上游黑灰产提供的他人身份证照片，通过境外换脸网站，借助AI技术生成仿真活体动态视频，再结合虚拟相机的使用，从而绕过平台活体验证程序，破解登录他人购物平台账号。
报道开篇中两被告采用的是AI生成视频循环播放卡点的方式，骗过平台活体验证防线，这类作案方式门槛更低，但实践中还有技术更为先进的同类案件。
“它能根据平台要求的动作环节，实时生成动作，比如说平台验证环节的动作是眨眼睛，犯罪嫌疑人就点击鼠标左键形成‘眨眨眼’，鼠标右键是‘摇摇头’，他就点鼠标右键来进行实时验证。”杭州市中级人民法院法官助理叶永青介绍。
两被告还有另一种窃取公民个人信息的方式，就是故意安装低版本购物、交友平台软件，利用低版本软件的防护漏洞，通过猜测用户密码保护问题，强行登录他人账号。
公益诉讼起诉人诉称，两被告先后非法登录近30个某购物平台账号，窃取用户收货地址、购物车信息等隐私数据对外流转。
法官介绍，公民个人信息黑灰产业链的分工非常明确，境外上游人员批量收集身份证、手机号、人脸照片等基础信息，下发给本案两名被告，两人利用AI技术深度加工，破解购物平台验证防线，获取更深层的账号隐私信息，之后再将数据回传给境外上家二次售卖。这些被虚假实名的账号，极易被下游不法人员用于电信网络诈骗等违法犯罪，而真正的作案人员隐匿幕后，社会危害极大。
“AI换脸”实施网恋诈骗
还有不法分子用AI换脸、智能合成技术来伪造人设、编织虚假网恋骗局。一名已婚中年女子利用AI换脸、录音合成技术打造虚假人设，诈骗网恋男友13万余元。
这是一起典型的新型技术类婚恋诈骗案。被告人孙某芳与被害人李某6年前在网络游戏中相识，并添加好友、线上交往。为了博取被害人李某的信任，现实中生活拮据、早已结婚并育有两子的孙某芳，利用AI技术加持，精心打造了一套完美“白富美”人设，开启长达数年的虚假网恋骗局。
本身相貌普通的孙某芳，通过AI合成的身份证照片，把自己包装成20多岁、家境优渥的“白富美”。为进一步骗取被害人李某的信任，孙某芳还利用AI合成软件，提取假身份证上的人脸影像合成动态视频，以此和李某视频聊天。
在两人长达6年的网恋中，孙某芳营造的“白富美”人设，让涉世未深的李某对其富家女身份深信不疑。虽然身在不同城市，但抑制不住对热恋女友思念，李某多次提出线下见面，孙某芳以自己父亲是大老板、李某没有稳定工作、家庭身世也不好、家人不同意两人交往等为由，拖延拒绝。
2024年11月，孙某芳因长期透支消费、背负大量网络贷款无力偿还，遂产生骗取被害人李某财物的想法。随后以给父亲交社保金、偿还外债不想让家里人知道、自己身体患病就医、自媒体创业需购置苹果手机等多种理由，反复向被害人李某索要钱财。半年左右时间，被害人李某多次向孙某芳转账13万余元。
为了让被害人李某相信自己有还款能力，孙某芳还使用录音合成软件制作了一条和自己大哥对话的假录音，称家中爸爸的厂房即将被政府拆迁，自己会得到60万元的拆迁款。
骗局的穿帮源于放贷机构的催收电话。原来，被告人孙某芳因无力偿还网贷，放贷机构把催收电话打到李某处。李某追问之下才发现，与其相恋6年的“白富美”女友，一直在虚构身份，骗取自己的感情和钱财。面对李某的质问与钱款追讨，孙某芳直接将李某拉黑删除。李某随后报案。
“AI换脸”伪造带货视频
AI换脸、深度音画合成技术的普及，也被部分不法商家滥用非法牟利。一名坐拥150多万粉丝的美妆博主，突然发现自己出现在一堆自己从没拍过的带货视频里，于是以侵权为由将对方诉至法院。前不久，浙江杭州互联网法院审结了这起AI深度合成肖像权侵权案，为规范AI商用行为提供司法指引。
原告于某是一名深耕美妆领域的博主，长期在短视频平台分享美容知识、生活感悟，常态化进行直播带货，有159万粉丝。被告是一家主营护肤品销售的网络科技公司。于某发现自2024年6月起，这家网络科技公司在未征得自己同意的情况下，擅自抓取自己在各大平台公开的短视频和直播素材，通过AI合成技术，批量制作了30多条虚假带货视频。这批侵权视频时长不等、批量推送，为被告店铺持续引流，两款涉案护肤品累计销量突破十万单，营业额高达740余万元。
法院审理后认为，本案中，被告借助AI换脸、音画重组等深度合成技术，批量伪造博主于某的带货视频，谋取商业利益，侵权主观过错明确，构成对原告于某肖像权的侵害，应承担相应民事责任。
AI治理持续加码
引领技术向善
中国人民大学法学院院长杨东表示，针对上述乱象，法律都有规制，有一些特别严重的行为就可能涉及刑法，包括通过AI技术进行诈骗的诈骗罪。网信办还有一系列管理办法、部门规章，应该说是形成了一个非常立体化的立法体系。
在民事保护层面，民法典明确规定，禁止以信息技术伪造等方式侵害他人肖像权，任何未经本人许可、将他人肖像用于商业引流、产品推广的行为，均属于侵权。彻底封堵“AI合成不算侵权”“玩梗恶搞不违法”的认知误区。
我国个人信息保护法将人脸、声纹划定为敏感个人信息，明确采集、合成、商用此类信息，必须取得当事人单独明确同意，默示授权、笼统协议授权均不具备法律效力。
对于利用AI换脸、伪造人设实施诈骗、敲诈勒索、虚假宣传牟利，数额较大、情节严重的，可依据刑法诈骗罪、非法利用信息网络罪、侵犯公民个人信息罪追责，实现民事追责与刑事惩处的有效衔接。
在行业监管层面，《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》，明确禁止未经授权利用他人肖像、声纹数据开展AI训练和商业创作，压实网络平台审核、溯源、风险处置等主体责任。
在司法实践上，2026年9月，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》，明确：未经同意利用AI技术处理他人肖像、姓名，生成可识别的虚拟形象并商用传播，构成肖像权侵权；未经授权模仿他人音色、合成人声用于带货引流，构成声音权益侵权。为冒用网红、博主肖像带货类案件提供统一司法标尺。
在顶层立法上，《国务院2026年度立法工作计划》明确提出，完善人工智能治理，加快推进人工智能健康发展综合性立法。全国人大常委会正加强人工智能领域立法研究，统筹推进相关法律的调研起草工作。
（据央视新闻客户端）