AI技术成就了各种新型应用场景。
AI作为一种新技术手段，对研发者、使用者提出了更高要求。
扫二维码看更多内容
最近，一则“福建南平松溪县遭遇严重大风袭击，造成枣岭街一人死亡”信息被公安机关核实竟是AI编造而成的网络谣言视频，引发网友热议。
如今，AI是重要的智能技术手段和工具，然而，将AI技术用以编造“伪消息”，也已经成为不容忽视的现实。
“AI造谣”以假乱真
在记者发放的78份问卷调查中，有一位答卷人的填写很形象，记者根据微信留言内容找到了这位受访者——张潇。
“我爸妈最近要外出旅游，他们在一则短视频画面中找到了一处‘爆美’景点。”张潇向记者展示了画面内容：湛蓝的天空却下着大雪，画面最中间一棵结满果实的树上，既有桃花绽放又有红彤彤的果子挂满枝头。雪花散落在大树上，俨然一派“银装素裹”的景象。树下的一条小河流向远方，五颜六色的锦鲤游来游去。
面对看起来十分不符合常理的短视频，张潇脱口而出“这是AI生成的，假的！”
张潇的困扰在问卷调查的反馈中不在少数，大部分答卷人肯定了AI的智能，也提出了“真假难辨”的质疑。
答卷人王奕然向记者展示了另一则“造谣视频”。
视频画面显示：一架尾部失火的大承载量客机，在众多惊讶、恐惧的叫喊声中，低飞过居民楼和写字楼。发布者还在视频下方推送了飞机坠毁新闻事件的网络链接。不少网友留言：“这明显是AI生成的。”“制造者为了流量无底线。”“被用于造谣的AI技术，以假乱真，让人分不清‘东南西北’。”
记者在后续的报道中发现，相关部门对此类AI生成的“造谣视频”予以消除和惩戒。
“AI生成”的正反面
11月26日，记者在山东某互联网有限公司采访了内容编辑岗位的万女士，她将昨日雨天登千佛山的感悟，通过AI相关软件生成了一篇观后感。
万女士在对话框内输入“雨后观千佛山”主题的内容创作指令，一篇1500字的观后感“一键生成”。文中，“雨雾缭绕如白纱萦绕山间”“远处山峰若隐若现”“几只小鸟在枝头欢快地歌唱”等漫步山间的细节、站在山顶观景台的心得体会，描写得详细又生动。
对此，万女士认为，AI文案生成具有一定便捷性，有助于文案、设计、行政、软件应用等岗位工作人员提升工作效率，“就拿刚才生成的这篇文章来看，既有薄纱笼罩山峦的现场描写，又有登顶远眺的心境抒发。”她的主张是，严格来说，这也是一篇“假观后感”，但内容编辑可以借鉴部分用词和描写，再根据真实的登山感受重新撰写，高效完成一篇观后感。
“所以，AI造谣、AI‘伪信息’，关键看使用者的用意。”万女士指出，随着AI技术应用越来越普遍，一些人为博眼球、蹭热度，将AI技术用以编造“伪消息”，以此来获得网民关注和点赞量，进而实现流量变现。
记者发现，在78份问卷调查中，有近90%的答卷人表达了相似观点：“AI不会主动生产谣言，但会被人利用。”
痛点是倒逼行业升级的“另一种鞭策”
除了对AI“伪信息”的质疑和揭露，还有很多受访者提出建议。
“诸如小红书、今日头条等平台都会涉及违禁词等设置。加强后台的技术手段治理‘伪信息’，譬如设置敏感关键词，禁止生成违法的信息内容。”山东绿科中博信息科技有限公司相关负责人杨先生表达期待。
山东社会科学院智库研究中心相关负责人徐先生认为，参照很多平台进入注册登记、验证码登录模式，呼吁AI领域严格落实网络实名制，并配合水印技术，实现对生成内容的有效溯源。这样一来，对不法分子的威慑力更强。
“AI网络谣言的危害不容小觑。不但扰乱社会公共秩序，还会削弱政府公信力、诱发电信网络诈骗等。”山东大学马克思主义学院教授鞠晗认为，AI造谣，定制化、门槛低、识别难、破坏大，要及时遏制。
近年来，为治理“AI造谣”乱象，深化网络生态治理，相关部门出台了多项政策和措施——
2023年1月10日起施行的《互联网信息服务深度合成管理规定》指出，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息；2023年8月15日起施行的《生成式人工智能服务管理暂行办法》规定，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。
“AI只是一种生成式的技术手段，未来随着经济社会的发展，会有更先进的技术手段问世。”律师王绎龙认为，对网络谣言等技术滥用现象，要有明确的权责划定，既要研发者、服务提供者以及网络平台发挥主体责任，又要在事后阶段严格追究违法行为人的行政责任、刑事责任。
一位受访者的反馈引人深思——
“以人为本，智能向善”，是数字时代的发展箴言。纵观人类技术史，每一个短板、痛点的暴露，未尝不是倒逼行业完善的机会。（济南日报·爱济南记者 孙慧娟）