“广州即将成为全国首个限制外卖配送的城市”登上网络热榜，经查系网民利用AI造谣；有人利用“AI去衣”软件制作淫秽物品贩卖获利，被处以行政拘留……
随着AI技术的发展，不法分子为了牟利、引流，利用“AI生成图文”“AI换脸”工具作案愈演愈烈。记者调查发现，给出相应指令后，一些AI工具就能快速批量扩写出不同的故事文案，有的每个月会员费只要99元，充值一年还能打五折。“深度伪造”技术几年前已被曝光，如今在网购平台仍可找到“AI换衣”“AI换脸”类工具，只是搜索路径更为隐蔽。
实测 用AI工具下指令可批量生成谣言
近期，公安部公布了10起打击整治网络谣言违法犯罪典型案例。其中，有网民发布“广州即将成为全国首个限制外卖配送的城市”的消息，迅速形成网络热搜。
经查，四川德阳网民杨某组织招揽广东江门网民叶某英等多名兼职人员，使用人工智能工具批量生成不实文章引流牟利。最终，6人被警方采取刑事强制措施。
这些案例中，能批量生成不实文章的AI工具为犯罪团伙“蹭热度”引流带来便利，加快了谣言的生产。这些工具获取是否有难度?有哪些功能?记者进行了实测。
除了ChatGPT等常用人工智能工具，记者通过关键词搜索，在网络上发现许多“AI洗稿”“伪原创生成器”“AI写作”等网站、小程序，其功能多样，能满足创作公众号文章、视频脚本、小红书文案等需求，还有文章续写、内容改写润色等功能。
记者随机点进一个“AI文案速写”的小程序中，在对话框内输入创作有关“抢劫”“霸凌”“火灾”3个主题内容的详细指令，就快速得到3段被扩写至100字左右不同故事情节的文案，其中还有一些生动的细节。
在另一个AI网站中，记者输入两句话指令后，该平台快速生成了一篇较长的公众号文章，且还有继续输入指令改写文章的功能。
值得注意的是，也有平台对敏感内容创作，设置了提示。
一款“AI文案”小程序在接到写有关霸凌事件文案的指令时提示“不能提供可能宣传暴力或不当行为的内容”。
那么，在造谣过程中，这些AI工具的提供者是否需要承担法律责任?
“在技术运用上，永远存在善、恶两种使用方式。法学上很早就提出了技术中立性的主张。”对外经济贸易大学数字经济与法律创新研究中心主任许可告诉记者。
他也指出，还要从研发者的角度判断，其生产该工具是否有特定用途或目的。如果研发者明知使用者要利用AI工具生成传播谣言，却仍选择推广，甚至放任谣言生成，那么技术中立的主张就不合适了。对于已普遍应用的主流AI工具，如被用于造谣等违法行为，则要根据谣言性质、生成过程等，让服务提供者承担相匹配的责任，例如要求进一步提升平台管控能力，保证避免生成有害信息等。
调查 网上开源或免费工具多
“随着技术快速发展，相对于生成视频图片，纯文本大模型的技术难度较低，生成文本也是非常基础的功能，例如给定一个框架让AI批量生成内容，速度是非常快的。”中国计算机学会计算机安全专业委员会数字经济与安全工作组成员方宇告诉记者。
方宇表示，犯罪分子利用AI工具生成谣言的成本相对较低，其可以利用现成的技术和平台进行操作，如今存在不少开源或免费的工具。
其主要成本可能包括获取工具的费用、运行工具所需的计算资源费用以及维护费用。但在国内外的大模型算法逐步开源的情况下，一些AI工具的研发成本也降低了。
记者调查发现，在网络上，AI创作工具泛滥，有收费、有免费。
有博主在某一篇关于AI创作的公众号文章中留下微信号，邀请“想借助AI创业、赚钱”的读者添加微信。
记者添加所留微信号后，对方发来一个有文本生成功能的AI工具，但要充值使用，会员费每月99元，12个月699元。
记者询问博主是否为原创研发工具，对方却表示“是我们与原创合作”。该款AI小程序对话框顶部有讯飞、星火等多个人工智能模型可供选择。
“技术的应用场景需要有一定的边界，同时要辅以必要的监管。”方宇介绍，2023年7月，中央网信办发布了《关于加强“自媒体”管理的通知》，强调要规范信息来源标注、加强信息真实性管理、完善谣言标签功能等。
“这意味着未来利用AI工具生成谣言的成本可能会因更严格的监管而增加，有助防范谣言的制造和传播，避免对社会造成负面影响。”
他表示，这些政策文件的出台表明，监管机构已经意识到，利用AI工具进行内容生成的简单性及其带来的问题。但是实现有效监管还需付出更多的成本和努力。
生意 博流量当“水军”引流赚钱
记者发现，除了文字，一些犯罪分子还通过AI编辑视频、图片等以假乱真，混淆视听。
1月23日，广西一男子为博取流量吸引粉丝，将其他地区的抗洪、救灾视频，利用AI软件自动编辑功能，嫁接新疆乌什县发生地震的虚假视频信息。视频被大量播放，并引发许多不明真相网民评论和转发，严重干扰社会秩序。这名男子也被警方处罚。
从利用AI生成不实内容，到在网络发布扩散，最终实现为账号引流牟利的目的，不难看出，运营造谣账号的背后仍是不法分子想当“网红”或从中获利的贪心，但层出不穷的谣言却影响了正常的社会秩序。
如何实现牟利?浙江警方2023年侦破的一起利用AI制作虚假视频造谣案件中，造谣团伙博取流量后，通过流量算法返款盈利。有犯罪嫌疑人称，通过发布视频、文章等，有阅读量就会给收益。
记者发现，还有造谣者为赚取佣金，利用手机软件的AI题词功能写文章，在某APP上参加发布作品活动，只要播放量达到奖励标准，就能赚到“零花钱”。
AI能否助力引流?方宇介绍，即使不利用AI，一些非法为账号提供“刷赞”“刷评论”的“网络水军”也正成为引流的工具。“但AI确实可以在扩散谣言中起到推波助澜的作用，让谣言传播过程更加自动化、隐蔽化。”
“目前监管机构、平台方正在努力，通过更有效的技术和管理措施，来识别和阻止这类行为，降低AI工具在这一方面的负面影响。”方宇向记者表示，有关部门还需要提高公众的识别能力，以减少谣言的传播和影响，例如发现谣言能及时举报等。