陈骏达编辑,云鹏合作
今日,腾讯团队与智东西等媒体进行深度交流,分享了腾讯在“安全养虾”领域的最新产品布局,引起了广泛关注。
腾讯iOA产品运营负责人刘登峰指出,OpenClaw等AI Agent正面临多重安全挑战,包括权限失控和供应链投毒等问题。由于AI Agent本质上是一个“不知疲倦的超级用户”,如果被攻破,攻击者就能获得完整的电脑控制权。此外,通过Skill包装恶意文件,也使得设备在不知不觉中受到威胁。
为应对这些风险,腾讯已经构建了包括云端、企业本地和用户个人本地部署在内的全面防护体系,通过腾讯云AI Agent安全中心和腾讯电脑管家等平台提供全方位的安全保障服务。
腾讯还开发了一些安全技能,如安全检查和隐私保护等,这些技能已经通过ClawHub和SkillHub社区上线,用户可以通过对话来激活OpenClaw等AI Agent的安全功能。
同时,腾讯云安全副总经理兼AI Agent安全中心负责人谢奕智表示,传统的基于规则特征的安全措施难以应对新兴的Skill投毒和提示词注入攻击。腾讯实验室正研究将AI技术应用于此类场景的安全防护,并已在云端和终端产品中实现应用。
一、全方位防护策略,重点防范提示词注入和Skill投毒等新型威胁
针对企业级终端部署场景,腾讯为OpenClaw等AI Agent产品建立了多层次的防护体系。
事前控制强调减少源头风险,通过合规检测识别已安装的AI工具,对OpenClaw类软件实施禁止运行或提示卸载、远程卸载。对于通过命令行安装的Agent,腾讯iOA则通过指令拦截来阻止其部署。
事中监控则注重透明化管理,通过腾讯iOA的终端检测与响应技术,可以实时审计AI Agent的进程链、系统调用及数据访问。数据防泄密模块则可以识别AI通道的外泄行为,并在文件被读取或外发时实时阻断。
腾讯iOA还提供了一种“人机分离”的机制,允许员工人工访问业务系统,但通过AI Agent调用时会被拦截。
事后追溯则提供了全链路的可视化,通过完整的操作日志、拦截事件及风险溯源图,帮助企业了解哪些设备安装了AI、哪些Skill存在风险、哪些数据被尝试外泄。
针对个人用户,腾讯在腾讯电脑管家18.0版本中推出了龙虾管家,通过一系列措施保障OpenClaw的本地部署安全,包括系统防护、Skills防护、支付安全防护、Prompt防护和文件访问保护等。
龙虾管家还推出了AI安全沙箱,支持OpenClaw、QClaw、OneClaw、LobsterAi等多种产品。
此外,龙虾管家的隐私检测仪可以直观展示AI应用的数据权限访问记录,包括剪贴板、音频录制、摄像头、麦克风、位置信息等,使用户对AI权限使用有更清晰的了解。
腾讯云AI Agent安全中心可以统一管理云环境中运行的“龙虾”等AI Agent及相关资产,自动盘点云环境中的所有AI Agent及相关资产,实时追踪大模型调用情况,并主动扫描运行环境中暴露的临时密钥、用户数据等高价值凭证,防止核心数据被窃取。
安全中心还全面记录AI Agent的系统级命令与网络行为,并审计提示词与工具(Tools/MCP)调用行为,发生提示词注入或越权行为时,可以立即提供完整日志。
此外,该安全中心还能对主机行为、网络和身份进行管控,并对Skills供应链进行安全扫描,排查木马病毒、恶意Payload及提示词注入漏洞。
二、行业需求呈现多样化,安全与产品体验可并存
腾讯团队与智东西等媒体深入讨论了腾讯面向OpenClaw的安全体系。
刘登峰指出,“事前、事中、事后”作为安全产品设计的基本逻辑具有广泛的适用性,但在实际应用中不同客户的诉求差异较大。
例如,金融、能源等监管严格的行业可能会对OpenClaw采取一刀切的管控方式,其主要关注点在于事前阶段,将安全产品作为清查工具。
而在科技互联网等行业,企业愿意使用AI技术,但仍然担心数据泄露等安全风险,因此需要全流程的安全措施,包括终端行为检测、防泄密和零信任动态访问控制等精细化管理能力。
谢奕智指出,目前企业客户的主要担忧集中在OpenClaw的数据误删、密钥泄露以及相关的网络管控策略和隔离措施。
不同行业关注OpenClaw的原因各不相同。政企和教育客户使用OpenClaw的主要目的是内部提效。而在Web3行业中,他们则认为OpenClaw能够创造增量价值,带来直接的经济效益。
企业普遍希望在确保安全的前提下,广泛推广OpenClaw等AI应用。
目前,企业更关注哪种类型的安全措施呢?
刘登峰表示,许多客户更倾向于与厂商讨论沙箱方案,通过在终端构建隔离的网络环境,将AI等应用与核心数据和业务隔离开。这种方案能有效防止数据入侵和外泄,但改变了用户体验,例如用户需要专门进入隔离环境,这与本地环境不互通,可能让用户感到不够便利。
然而,随着用户对使用场景的理解加深,安全能力有望被直接融入到业务流程中,用户会逐渐习惯某些边界的存在,知道哪些行为是允许的、哪些是受限的,不再刻意感知安全系统的存在。
结语:从“防入侵”到“防越权”,AI Agent安全成为新挑战
AI Agent的安全防护与传统安全的区别已经日益明显。传统安全主要防范外部黑客利用系统漏洞入侵,而在AI Agent时代,威胁可能来自于合法授予AI的权限被恶意利用。
随着Agent能力边界的不断扩展,企业和个人都可能与其产生更多的交集,如何做好安全防护,将成为一个持续性的议题。
AI Agent的安全防御,与传统安全的区别已经愈发明显。传统安全主要防范外部黑客利用系统漏洞入侵,而AI Agent时代,威胁可能来自于合法授予AI的权限被恶意利用。
随着Agent能力边界的不断扩展,无论是企业与个人都可能会与其产生更多的交集,如何做好安全防护,将会是一个持续性的议题。
