爆火的AI“龙虾”用起来安全吗?
日期:03-11
据新华社电 近期,开源AI智能体“龙虾”持续走热,并引发广泛讨论。其是否存在安全风险、怎样才能安全使用?对此,记者采访了中国信息通信研究院副院长魏亮。
所谓“龙虾”,是开源AI智能体OpenClaw的别称,因其图标是红色的龙虾而得名。“龙虾”智能体通过整合调用通信软件和大语言模型,在用户本地电脑自主执行文件管理、邮件收发、数据处理等复杂任务。
“它很强的执行能力给用户带来了严峻的安全挑战。”魏亮说,作为本地运行的AI代理,“龙虾”智能体具有自主决策、调用系统资源等特点,加之信任边界模糊、技能包市场目前还缺乏严格审核,存在不少风险隐患。比如在调用大语言模型时可能误解用户指令内容,导致执行删除等有害操作;使用被植入恶意代码的技能包,可能导致数据泄露或系统受控等。
在魏亮看来,更新到官方最新版本,确实能修复已知的安全漏洞,但并不意味着完全消除安全风险。“网络安全是动态的,黑客攻击手法也在不断迭代,不能把‘打补丁’和‘升版本’当成一劳永逸的安全保障。”
使用“龙虾”智能体需要注意哪些?魏亮认为,必须坚持“最小权限、主动防御、持续审计”的原则。
在部署时,要优先从官方渠道下载最新稳定版,并开启自动更新提醒。在升级前备份数据,升级后重启服务并验证补丁是否生效。
严格控制互联网暴露面。不要将“龙虾”智能体实例暴露到公网,确需互联网访问的,限制访问源地址,使用强密码或证书、硬件密钥等认证方式。同时,定期自查是否存在互联网暴露情况。
在部署时,严禁使用管理员权限的账号,只授予完成任务必需的最小权限,建议在容器或虚拟机中隔离运行,以形成独立的权限区域。
ClawHub是专为“龙虾”智能体用户提供技能包的社区平台,其中的技能包存在恶意投毒风险,建议审慎下载,并在安装前审查技能包代码。