歌手斯威夫特再度成为受害者 该给AI“套上笼头”了

　　美国知名歌手泰勒·斯威夫特再度成为了AI深度伪造的受害者，近日，大量由人工智能生成的泰勒虚假色情、血腥照片在多个社交平台疯传，浏览量已超过千万，引发社交媒体震动，甚至还惊动了美国白宫。

　　1月26日，白宫发言人皮埃尔在记者会上回应了这一事件，“我们对这种图片的流传感到震惊。虽然社交媒体公司在内容管理方面作出了自己的独立决定，但我们认为他们在执行自己规则方面可以发挥重要作用，以防止错误信息和未经同意的真实人物的私密图像传播。”她还尤其补充了执法不严对女性的影响更大，她们是网络骚扰的主要目标。

　　这些深度伪造的泰勒照片是使用AI生成，并上传到了一家不良网站上，该网站充斥了众多以名人为主角的不雅照，虚假照片很快传播到了主流社交媒体并在网友之间迅速传播，这也引起了泰勒数以千万粉丝的强烈不满和愤怒，粉丝们发起了“保护泰勒”的话题。

　　目前，部分参与传播的账号已被社交平台封禁，各社交平台也在清除流传的图片，但是漏网之鱼依然存在。有人自建网站或者通过匿名群组，来售卖这些深度伪造的照片。实际上这不是泰勒第一次成为AI深度伪造的受害者，就在不久前，有人使用人工智能技术仿造了她的声音和形象来为商品进行推广，让消费者误以为这是泰勒代言的商品。

　　粉丝们为泰勒的遭遇而深感愤怒的同时，还传达出了对AI深度伪造技术的发展感到强烈不安的声音。“泰勒是影响力很大的明星，要是我们普通人也被深度伪造了不雅照可怎么办？”“AI发展得太快太恐怖了，我都不敢想如果是我那真的要跳进黄河洗不清了”“支持AI立法，滥用危害太大了”“这真的和我们的生活息息相关，AI照片视频的人类面部表情已经很像真人了，声音也能模仿得一样，这样的骗局普通人难以分辨”。

　　事实上，从2023年起，国内也已发生多起AI深度伪造诈骗案件，叫人防不胜防，还已出现了多起利用AI技术“造黄谣”、传播不良信息的恶性事件。

　　面对以假乱真的AI伪造技术，国内外的专家学者、相关领域的企业机构也想过不少应对办法。比如在去年12月，一款名为mist的隐形图片水印在网上开源发布，该水印用于抵抗AI模型对图片的训练和抓取，这一水印能够极大程度地干扰AI模型，使之生成的图片遭受不同程度的破坏。

　　此外，有开发者建议让AI生成平台和公司，给相关的AI生成软件加上隐形水印机制，以快速识别AI并进行溯源，各个社交平台也应以技术手段加强对于疑似AI生成图、文、视频内容的识别功能。在国内，抖音、小红书等平台已对疑似为AI生成的图文视频内容进行标识以提示用户小心分辨真假。

　　然而说到底，这些防止AI、识别AI的技术手段难免治标不治本，对AI深度伪造只能起到有限的阻止、震慑作用。深度伪造技术的泛滥，根源之一在于其中有利可图，制造传播这些深度伪造图片、视频的人不仅仅是出于个人的猎奇心态，还可能从中获得高额回报。

　　因此，对AI技术的管控已经不能仅停留在倡议、呼吁的阶段，规范的立法和相应的惩处制度的推行也迫在眉睫，AI技术不是洪水猛兽，但确实需要一个能约束它的铁笼。

　　扬子晚报/紫牛新闻评论员 沈昭