AI“龙虾”,“全能管家”还是“伤人钳子”?
日期:03-12
AI制图。
“你‘养龙虾’了吗?”近日,这句话成为社交网络上的最热话题。“龙虾”OpenClaw作为开源AI智能体,颠覆了传统AI仅能“动口”的聊天模式,进化到可以“动手”操作,被赋予读取文件、调用软件甚至执行交易指令等各类权限,仿佛一位24小时在线的“数字管家”。然而在这场狂欢背后,高昂的使用成本、频发的“失控”事件以及触目惊心的安全漏洞,正为这股热潮浇下一盆冷水。近日,我市公安等部门发出提醒:OpenClaw等智能体工具引发的安全风险不容忽视,在技术成熟之前,对“养龙虾”需保持高度审慎。
绍兴本地
火热讨论与冷静观望并存
“最近这个‘龙虾’太火了,我和朋友们一直在讨论,有些朋友已经玩起来了,觉得挺好用。”从事文旅行业的章女士告诉记者,随着了解深入,也发现了不少问题:一位朋友让OpenClaw处理工作邮箱,并附加了“未经许可不要操作”的安全词限制,然而,“龙虾”却无视后续发出的“停下来”指令,疯狂地批量删除了数百封邮件。“万一把我的工作报告删了,或者把一些涉及公司机密的文件发布出去,那就完蛋了,安全比效率更重要。”章女士表示自己暂时不会去使用,要继续观望。
记者登录闲鱼等交易平台,搜索绍兴的“龙虾代装”服务,结果数据并不多,仅有几个标价100元至400元不等的卖家,与网络上“日入斗金”的喧嚣形成鲜明对比。有卖家还主动“劝退”:“你确定日常工作需要这种自动化的流程吗?普通人还是不建议玩,后面的Token消耗太高,就是个无底洞。”Token正是“养龙虾”的一笔隐形开销。据了解,OpenClaw软件本身免费,但真正烧钱的是它的“伙食费”——调用后端大模型所需的Token费用。每执行一个任务,它都要消耗大量Token进行交互,一旦任务复杂,消耗将成倍增长。若为省钱使用免费的Token接口,不仅响应迟钝,安全隐患更大。
比“伙食费”更令人担忧的,是这只“龙虾”随时可能失控的“钳子”。记者了解到,为实现“自主执行任务”的能力,该应用被授予了较高的系统权限,然而由于其安全配置极为脆弱,攻击者一旦发现突破口,便能轻易获取系统的完全控制权。
“现在有一大批不大懂的人在盲目跟风玩‘龙虾’,完全不清楚自己交出了多少权限,很可能得不偿失。能够真正养好‘龙虾’的,往往都是技术大神。”一位从业者分析道。
官方关注
我市有关部门发出风险提醒
3月10日,国家互联网应急中心紧急发布了关于OpenClaw的安全风险提示,重点指出了“提示词注入”“误操作”“功能插件投毒”及“安全漏洞”等4方面的严重风险。
对此,我市公安部门也发出了安全风险提醒。“市民需警惕‘AI代劳’背后的安全隐患,如果市民确实需要尝试使用这类AI智能体,请务必牢记以下安全准则:物理隔离,划定‘养殖区’,不要在存有身份证照、财务数据、工作机密的电脑上安装,与个人核心数据实现彻底的物理隔离,即使‘龙虾’失控,损失也仅限于隔离环境内;最小权限,不给‘通行证’,在配置时遵循‘最小权限原则’,绝不轻易开放银行、支付等核心账户的访问权,对于不明来源的‘技能’插件,坚决不安装;警惕‘代餐’,自己掌勺,尽量学习官方文档自行部署,避免使用来路不明的‘代安装’服务。”我市公安部门相关工作人员告诉记者,大家在“养龙虾”的热潮中要系好“安全带”,才能让这个AI助手真正为你所用,而不是成为伤及自身的隐患。
此外,我市经信局等部门也对“龙虾”高度关注,后续将推出风险提醒、安全建议、行业规范等举措。