您的位置首页 >人工智能 >

潘多拉工具箱发布,北大联合微信安全团队推出通用智能体全生命周期安全框架

北大知识计算实验室与腾讯微信安全技术团队联合发布名为潘多拉工具箱(Pandora’s Toolbox)的综述成果,搭建起一套覆盖来源、编排、执行、持久反馈的通用智能体全生命周期安全图景,打破过去只单独针对模型、工具做安全防护的思路,专门用来追踪风险在智能体整个运行链条里的传递、留存和持续放大,相关论文已经对外公开,配套项目仓库同步上线,给后续智能体安全评测、防御方案设计提供统一参考框架。传统大模型安全大多盯着提示词越狱、有害输出,但是现在通用智能体可以自主挑选技能、调用外部 API、读写文件、把经验存入长期记忆,一次攻击不一定当场爆发危害;恶意技能、污染记忆可以顺着链路潜伏,跨会话持续生效,普通单点防护很难拦截这种链式风险,这也是团队启动这项研究的核心原因。整套框架把智能体生命周期划分为来源、编排、执行三大主阶段,叠加持久化反馈闭环,同时划分四大攻击面:技能供应链、用户输入、长期记忆、外部环境;还梳理了完整评测手段,包含交互式运行测试、离线轨迹审计,并且提出三层防御体系,分别是输入过滤、决策保护、运行时约束,面向能够自我迭代的智能体,构建风险生成、诊断、安全演化的动态闭环,推动安全治理从打零散漏洞转向全链路管控。开发者如果想要参考这套成果,可以查阅论文原文与开源项目主页,把这套生命周期视角融入自家智能体的安全设计,重点管控外部引入技能、记忆读写权限,同时留存完整操作轨迹用于事后审计。整体来看,潘多拉工具箱最大价值,是给行业提供一张完整地图,讲清楚智能体风险从哪里进来、怎么扩散、在哪里拦截,填补了自主智能体全链路安全体系的空白。

潘多拉工具箱核心信息清单

  • 合作单位:北大知识计算实验室、腾讯微信安全技术团队
  • 论文名称:Pandora’s Toolbox: A Survey of Generalist Agent Security from the Lifecycle Perspective
  • 核心定位:通用智能体全生命周期安全图景与统一分析框架
  • 生命周期阶段:来源(Provenance)、编排(Orchestration)、执行(Execution)、持久反馈
  • 四大攻击面:技能供应链、用户输入、长期记忆、外部环境
  • 三层防御体系:输入与上下文过滤、决策完整性保护、运行时监控强制约束
  • 评测方案:交互式执行测试、离线轨迹审计
  • 配套资源:论文 OpenReview 页面、Agent 安全论文开源汇总仓库

风险传播链路对照表

阶段风险入口典型危害推荐拦截手段
来源阶段恶意第三方技能、污染素材、注入提示提前植入后门,等待后续触发技能准入审核、来源签名校验、输入过滤
编排阶段诱导错误挑选工具、篡改任务规划偏离用户意图,挑选恶意接口决策校验、权限最小化、计划人工复核
执行阶段危险 API、文件读写、代码执行数据泄露、系统篡改、对外攻击沙箱隔离、运行时监控、动作白名单
持久反馈阶段污染长期记忆、工件留存风险跨会话复现、持续迭代扩散记忆写入校验、痕迹审计、污染回滚机制

在智能体项目落地这套思路操作步骤

  1. 在引入第三方技能、插件时增加来源校验,不可直接加载未经审核的外部工具包
  2. 给智能体的工具调用划分权限,敏感操作强制加入人工确认环节
  3. 开启完整轨迹日志,记录每一步规划、工具调用、记忆读写,方便离线审计
  4. 针对长期记忆模块增加写入校验,防止污染信息持续留存
  5. 接入运行时监测,一旦出现异常工具调用、数据外连行为立刻阻断
  6. 参考论文中的评测基准,定期对智能体做全链路安全红队测试

【相关 FAQ】

问题 1:北大和微信安全团队推出的潘多拉工具箱,构建的通用智能体全生命周期安全图和以往安全方案差别在哪?

回答 1:北大和微信安全团队推出的潘多拉工具箱构建的通用智能体全生命周期安全图,不再单独针对模型或者工具做单点防护,而是追踪风险沿着智能体全链路传播、潜伏、跨会话放大的全过程,提供统一的分析、评测、防御框架。

问题 2:依托潘多拉工具箱这套通用智能体全生命周期安全图景,智能体风险主要有哪几类攻击面?

回答 2:依托潘多拉工具箱的通用智能体全生命周期安全图景,一共划分四大耦合攻击面,分别是技能供应链、用户输入、长期记忆以及外部运行环境。

问题 3:开发者使用潘多拉工具箱对应的通用智能体全生命周期安全思路,能够解决什么样的痛点?

回答 3:借助潘多拉工具箱对应的通用智能体全生命周期安全思路,可以解决恶意技能潜伏、污染记忆跨会话持续生效这类传统单点安全手段很难拦截的链式风险,指导搭建完整的智能体安全闭环。

【参考资料】

[2026-11-15](打开「潘多拉工具箱」:北大、微信安全团队构建通用智能体全生命周期安全图景)网易

[2026-11-14](打开「潘多拉工具箱」:北大、微信安全团队构建通用智能体全生命周期安全图景)新浪财经

[2026-11-14](Unlocking the "Pandora's Toolbox": Peking University and WeChat Security Team Build a Full Lifecycle Security Landscape for General-Purpose Agents)C114Pro

[2026-11-14](打开「潘多拉工具箱」:北大、微信安全团队构建通用智能体全生命周期安全图景)机器之心

[2026-08-28](Pandora’s Toolbox: A Survey of Generalist Agent Security from the Lifecycle Perspective)Preprints.org

【免责声明】

本文仅为 AI 安全学术成果资讯整理,潘多拉工具箱属于综述类研究框架,不是可以直接部署的成品安全程序;论文给出的防御、评测思路仅作为研发参考,不能保证完全杜绝智能体攻击;智能体安全方案最终防护效果取决于权限设计、沙箱、审计等整套工程落地;本文不构成企业智能体开发、安全改造的实施或者采购建议。