一项新的安全分析表明,几种代理红队人工智能工具存在共同的设计缺陷,这些缺陷可能让攻击者窃取 API 密钥、破坏工作容器、跨会话持续存在,并在某些情况下到达操作员的主机。
研究结果来自红队代理红队,由 Cracken 研究人员 Dario Pasquini、Michał Bazyli、Taras Fedynyshyn 和 Artem Sorokin 撰写的新研究论文。该研究考察了 12 个用于自动渗透测试和红队工作流程的代理攻击安全系统。
核心问题是架构信任。许多工具为大型语言模型提供了一个工作环境,可以运行 shell 命令、检查目标、下载文件和执行工具。如果恶意目标可以欺骗该工作人员运行攻击者控制的内容,那么弱隔离可以将操作员自己的测试设置变成下一个目标。
研究人员测试了 12 个代理攻击安全系统
该论文回顾了包括 CAI、RedAmon、PentestAgent、DarkMoon、PentAGI、AIRecon、PentestGPT、METATRON、nebula、xalgorix、Artemis 和 STRIX 在内的工具。这些系统在界面和架构上有所不同,但许多都遵循相同的一般模式:LLM 协调器计划测试,而工作环境针对目标运行命令。
这种分裂应该能够提供遏制。在实践中,研究人员发现,许多工作人员要么可以访问机密、与编排器共享文件、访问内部 API、使用广泛的 Docker 权限,要么使用网络访问来运行,从而在妥协后扩大了爆炸半径。
该研究称,攻击者可以访问 12 个受评估代理中的 11 个代理中的敏感工件。这些工件可以包括 LLM 提供商 API 密钥、攻击性安全工具令牌、日志、先前测试的结果、存储的内存以及可能包含目标、凭据或内部注释的对话历史记录。
| 风险区域 | 研究发现了什么 | 为什么这很重要 |
|---|---|---|
| 工人妥协 | 敌对目标可以影响代理下载并运行暂存文件 | 测试工具成为攻击面 |
| 秘密曝光 | 在大多数经过审查的系统中都可以访问 API 密钥和会话日志 | 攻击者可以窃取 LLM 证书或敏感测试数据 |
| 坚持 | 可以修改共享代码、内存、插件或挂载目录 | 一个立足点可以在一次特工运行后继续存在 |
| 沙盒逃脱 | 一些工具使用有风险的 Docker 或主机网络配置 | 容器的妥协可能会成为主机的妥协 |
| 护栏旁路 | 政策经常检查 LLM 的决定,而不是实际的工人行为 | 具有工作者执行能力的攻击者可以绕过高级过滤器 |
该攻击不需要经典的提示注入
最重要的发现之一是研究人员称之为代理网络钓鱼的攻击方式。攻击者没有在目标页面上放置明显的提示注入文本,而是在蜜罐系统上展示了令人信服的技术工件。
例如,目标可能会提供二进制文件、自述文件或构建日志,使工件看起来对渗透测试有用。然后,代理会下载并执行它,因为它似乎与完成作业相关。
这克拉肯研究据报道,该技术在其测试设置中的平均成功率为 97.8%。评估的模型包括Claude Opus 4.8、DeepSeek V4 Pro、Gemini 3.1 Pro、GLM-5.1、GPT-5.5和Kimi K2.6。
- 攻击者控制或准备被测试的系统。
- 代理发现一个对评估看起来很重要的分阶段工件。
- 代理在工作环境中下载并运行工件。
- 攻击者在工作容器或代理运行时内获得执行权。
- 弱隔离可能会暴露秘密、日志、编排器 API 或主机系统。
护栏失败是因为他们看错了层
该论文称,12 个工具中有 7 个具有某种形式的护栏,例如正则表达式过滤器、目标限制或 LLM 作为法官检查。研究人员发现,一旦在工人体内实现执行,这些机制都无法阻止无限制的工人虐待。

原因很简单。许多护栏会在法学硕士计划的行动到达工人手中之前对其进行检查。它们并不总是监视工作线程的真实网络流量、文件写入、shell 活动或执行开始后的进程行为。
微软在其声明中也提出了类似的观点语义内核安全研究,警告说,一旦人工智能代理将自然语言输入连接到系统工具,如果周围架构过于信任模型控制的参数,提示注入可能成为主机级代码执行的路径。
| 层 | 弱设计 | 更安全的设计 |
|---|---|---|
| 工人 | 以广泛的特权和共享秘密运行 | 作为不受信任的一次性环境运行,没有秘密 |
| 协调者 | 与工作人员共享容器、文件或内部 API | 使用严格的隔离和经过身份验证的通信 |
| 网络 | 依赖于LLM级别的目标过滤 | 通过可执行的出口控制路由流量 |
| 文件 | 允许可写共享挂载 | 使用狭窄的上传路径、检查和批准门 |
| 秘密 | 将 API 密钥放置在工作环境中 | 将密钥保存在协调器或专用秘密经纪人中 |
微软的语义内核错误显示了更广泛的代理风险
红队人工智能工具的发现也适用于更广泛的代理安全问题。今年早些时候,微软披露了两个语义内核漏洞,展示了框架级设计问题如何将代理行为转化为直接的系统影响。
CVE-2026-25592是 Microsoft 语义内核 .NET SDK 中的任意文件写入问题。 NVD 表示,该缺陷影响了 SessionsPythonPlugin,并已在 Microsoft.SemanticKernel.Core 版本 1.71.0 中修复。微软表示,较旧的受影响代理可能允许通过 DownloadFileAsync 或 UploadFileAsync 等函数写入受攻击者影响的文件。
CVE-2026-26030影响 Microsoft 的语义内核 Python SDK。 NVD 将其描述为 python-1.39.4 之前的 InMemoryVectorStore 过滤器功能中的远程代码执行漏洞,建议的修复方法是升级到 python-1.39.4 或更高版本。
这微软安全博客简单地阐述了这个问题:法学硕士本身不应被视为安全边界。暴露给模型的工具以及附加到这些工具的特权定义了攻击者可能能够达到的目标。
对于安全团队来说,最安全的做法是假设工作人员可能受到威胁。这并不会使代理红队工具变得无法使用,但它改变了它们在企业环境中的运行方式。
API 密钥不应存在于工作容器内。工作人员不应与协调器共享可写卷。 Docker 套接字不应安装到工作环境中。应避免主机网络,除非特定任务需要它并且更窄的设计可以包含它。

团队还应该检查他们的代理堆栈是否使用易受攻击的语义内核版本。CVE-2026-25592 的 NVD 条目将 .NET 用户指向 Microsoft.SemanticKernel.Core 版本 1.71.0,同时CVE-2026-26030 的 NVD 条目将 Python 用户引导至语义内核 python-1.39.4 或更高版本。
- 将工作人员作为不受信任的一次性环境运行。
- 将 LLM API 密钥和工具凭证保留在工作容器之外。
- 通过文件系统、网络和身份将工作器和编排器分开。
- 用受控工件传输路径替换可写共享安装。
- 使用出口代理或防火墙规则在网络层强制实施目标范围。
- 在操作之间重建工作文件系统,而不是信任持久状态。
- 监控工作进程、网络流量和文件写入,而不仅仅是 LLM 决策。
该研究并不认为应该放弃自主红队系统。它认为,他们需要与恶意代码分析、恶意软件爆炸和高风险自动化相同的硬隔离原则。一旦人工智能代理可以运行工具,周围的系统就必须限制这些工具可以接触的内容。
FAQ
什么是代理红队人工智能工具?
代理红队人工智能工具是使用大型语言模型来规划和执行进攻性安全任务的系统,例如侦察、漏洞发现和渗透测试。他们经常将 LLM 协调器与可以运行命令行工具的工作环境结合起来。
克拉肯研究人员发现了什么?
研究人员发现了几种代理攻击安全工具的共同架构弱点。这些弱点可能会让攻击者危害工作环境、窃取 API 密钥、访问会话日志、绕过护栏、跨会话持续存在,并在某些情况下危害操作员的主机。
什么是代理网络钓鱼?
代理网络钓鱼是一种操纵技术,攻击者在目标系统上放置令人信服的工件,以便 AI 红队代理在测试期间下载并执行它。它不需要经典的提示注入指令。
为什么 API 密钥会从这些工具中泄露?
当工作环境有权访问仅应存在于协调器或单独的秘密管理层中的秘密时,API 密钥可能会泄漏。如果攻击者在工作程序内部获得了代码执行权限,那么这些暴露的密钥和日志就可以被访问。
公司应如何保护代理红队系统的安全?
公司应该将工作人员视为不可信的,对工作人员容器保密,将工作人员与编排器隔离,避免可写共享安装,通过出口控制强制执行网络范围,修补易受攻击的框架,并在操作之间重建工作人员环境。
