AI集中上岗 “双11”的喜和忧

　　●卢燕

　　眼下，当你在深夜的直播间与一名风趣幽默的主播开心互动并下单时，或许你该问问自己：荧幕对面的“她或他”，真的是人类吗？

　　“AI主播”穿上“AI衣服”进行全天候不间断的直播带货，这只是今年“双11”的一个缩影。从智能搜索到AI数字人主播，AI正以前所未有的深度接管我们的购物车。

　　淘宝“AI万能搜”、AI试衣等、京东“京小智”等集中“上岗”。当AI逐渐渗透到“双11”各个环节，消费者会否照单全收？

　　过去的AI主播面对提问往往答非所问，如今已能实时理解用户的留言，生成贴切的个性化回应，互动体验达到以假乱真的程度，让不少消费者直呼方便。

　　事实上，早在今年“6·18”前夕，百度就推出了颇具话题性的尝试：让知名电商网红罗永浩的AI分身进行长达6小时的直播带货。这场直播创下了惊人纪录，吸引超过1300万人次观看，带来高达5500万元的商品交易总额。

　　尽管前景光明，AI直播仍面临挑战。首先是消费者的信任度，许多消费者仍习惯与“真人”建立信任联结。当产品逐渐抛开真人，消费者会不会逐渐失去对营销的信任？不免让人心生疑惑。

　　为了避免网购诈骗，许多消费者转向直播购物，通过“眼见为实”降低被骗概率，但有的网购服装收到后发现货不对板，追根溯源才发现，从商品模特图片到直播展示，全由AI生成。有了这样糟心的体验，消费者往往直接“拉黑”直播间，不再光顾。

　　其次是平台规范与法规。拿使用AI虚拟试衣来说，上传的照片会被提取身材数据，尽管多数平台承诺“匿名化处理”，但仍存在数据泄露风险。

　　不久前，央视主持人遭AI仿冒带货，涉事公司被依法处罚。9月1日起施行的《人工智能生成合成内容标识办法》明确规定，利用AI技术生成的图片、视频、虚拟场景等内容必须添加显著标识，为AI生成的营销内容贴上清晰的“身份证”。但眼下，对于何为AI直播间、必须如何标识、由谁监督等问题，依然缺乏清晰界定。

　　此外，AI直播技术也暴露出脆弱性，仍面临不少技术挑战。最引人关注的莫过于“提示词注入攻击”事件。早些时候，多个AI虚拟主播遭到恶意观众的“黑客式留言”攻击，凸显AI仍无法完全防范外部干扰。持续优化AI功能，在“硬”科技进步和用户“软”体验不“软”中寻求平衡是今后的一大课题。毕竟使用AI的初衷，应当是改善人们的生活，而非增加焦虑。