守住科技向善底色 别让AI成了“托儿”

　　今年中央广电总台“3·15”晚会首次曝光AI“投毒”灰色产业链，引发广大消费者关注。　　AI“投毒”，是指不法服务商通过GEO技术，批量向AI大模型投喂大量带有“商业目的”的虚假信息，诱导AI大模型在生成回答时优先“抓取”这些被“投毒”的内容，以此操控AI大模型在回答商品比选类问题时给出的答案，让客户的商品广告成为消费者眼中的“AI力荐”“标准答案”。记者实测发现，仅需使用某GEO系统软件杜撰的11篇虚构软文，就可以对AI大模型“投毒”，让一个凭空捏造，实际并不存在的智能手环品牌“Apollo-9”登上AI推荐榜单，使其在不知不觉间就被推向使用AI大模型的消费者。　　随着AI大模型与日常生活高度融合，越来越多的人倾向于向AI寻求消费建议，而AI基于数据与统计的推荐答案，也往往会被用户默认为是客观中立的结论。然而，不法分子正是利用消费者对科技工具的信任，通过GEO技术向AI数据源“投毒”，人为操控AI回答内容，把原本提升效率、方便生活的科技异化成灰产链条上的牟利工具，让消费者受骗焦虑加剧，也让守法经营商家被劣币驱逐良币的乱象裹挟，这不仅严重侵犯了消费者的知情权、选择权等合法权益，更是极大地破坏了行业市场的公共信息秩序和信任根基。　　AI“投毒”乱象蔓延，本身是技术与人心在制度真空中失序的缩影。一方面，相较于AI技术的快速迭代，当前制度建设相对滞后，存在监管盲区，虽然AI“投毒”相关行为涉嫌违反《中华人民共和国反不正当竞争法》和《中华人民共和国广告法》，但GEO服务商往往会用打着“技术优化”的外衣来规避监管风险，现有制度缺乏明确、精准的监管罚则，难以准确识别数据投喂、模型操纵等新型违规行为，违法成本之低与灰产收益之高的此消彼长，催生了钻监管空子的套利空间。另一方面，部分商家存在打政策“擦边球”的错误认知，让“花钱打榜”这一互联网早期阶段的流量玩法在数字时代“借尸还魂”。更值得警惕的是，部分平台在这场攻防博弈中角色暧昧，手握算法规则解释权，却将技术伦理置于商业利益之后，未能及时对“投毒”行为建立有效的识别屏障和监管机制，甚至默许纵容。　　对于AI“投毒”乱象的遏制和纠偏，急需的是监管的及时补位和治理的质效提升。立法机构与监管部门应当构建技术适配型制度体系，加快出台针对算法操纵、数据投毒等新型不正当竞争行为的司法解释与行业标准，明确法律适用边界，形成AI宣传违法清单，同时建立“溯源追责”机制，建立跨平台“黑名单”，发布执法典型案例，加强监管穿透力度，以制度红线形成有效震慑。AI平台应当加强技术层面的“防火墙”建设，采取对短期批量生成降低抓取权重、建立交叉验证的“幻觉库”等技术治理手段，对商家内容审核、违规追责等关键环节加强建设，定期公布算法技术治理报告及审计情况，切实承担起相应的社会责任。市场监管等相关部门更要加强公众教育和行业治理，引导商家加强行业自律，建立健康的行业信息生态，提升用户对AI内容的辨别能力，畅通举报渠道，让网民成为清朗空间的守护者，让灰色产业的投机者在阳光下无处遁形。　　AI的发展，必须守住向善的底色，当“遇事不决问AI”成为生活常态，利用对数据源“投毒”操控AI的回答，本质上是从源头上定义“事实”本身。若事实能够被定义，社会信任就无从谈起。在这场关于AI“投毒”的伦理保卫战中，需要法律制度长出牙齿，需要AI平台筑起高墙，更需要你我在内的每一名用户保持那份不可或缺的审慎与追问。（王 林）