人性细节克劳德寓言 5 网络安全保障和越狱框架

Anthropic 发布了有关保护《克劳德寓言 5》的网络安全保障措施的新细节，包括如何阻止有风险的网络请求以及计划如何对严重越狱进行评级。

此次披露是在临时出口限制取消后《克劳德寓言 5》全球回归之后进行的。在其重新部署更新Anthropic 表示，《神鬼寓言 5》已于 2026 年 7 月 1 日回归，并改进了网络安全措施。

该公司表示，《神鬼寓言 5》不会阻止所有网络安全请求。相反，它使用安全分类器将日常防御工作与可以帮助攻击者构建恶意软件、利用系统或绕过保护的请求分开。

Anthropic 表示，网络安全很难控制，因为许多任务既有防御性用途，也有进攻性用途。漏洞审查可以帮助开发人员修复代码，但也可以帮助攻击者找到弱点。

在其《神鬼寓言 5》保障文档该公司表示，其分类器将网络请求分为四类：禁止使用、高风险双重使用、低风险双重使用和良性使用。

这种方法使 Claude Fable 5 支持更安全的工作，例如安全编码、补丁规划、日志分析、防御逆向工程和网络安全教育，同时阻止创建更清晰的危害路径的请求。

高风险请求仍会遭到拒绝

Anthropic 表示，《神鬼寓言 5》阻止了可以有效提高进攻性网络能力的请求。其中包括恶意软件传送、凭证盗窃工作流程、漏洞利用链、网络物理破坏、隐蔽通道以及逃避检测的尝试。

该公司还通过所谓的安全裕度来阻止一些模棱两可的请求。这意味着如果提示类似于有风险的网络安全请求，该模型可以拒绝可能无害的提示。

Anthropic 表示，这种权衡可能会产生误报，但它减少了有害请求通过的机会。在某些情况下，标记的《神鬼寓言 5》请求可以路由至 Claude Opus 4.8。

Anthropic 在常规漏洞发现和高度提升漏洞发现之间划出了界限。如果其他公共工具或广泛使用的模型已经可以发现相同的问题，则 Anthropic 会将请求视为风险较低。

当《神鬼寓言 5》可能发现其他工具无法发现的新颖或复杂漏洞时，该公司将请求视为较高风险。 Anthropic 表示，这种类型的输出可以为攻击者带来有意义的新优势。

这解释了为什么某些安全提示可能会收到不同的结果。有关防御性补丁的请求可能会通过，而可能解锁漏洞开发的类似请求可能会被阻止。

网络越狱严重性框架解释

Anthropic 还提出了网络越狱严重性框架（CJS），以评估网络越狱的危险程度。目标是帮助人工智能开发人员、政府和研究人员使用共享词汇讨论越狱风险。

拟议的规模从 CJS-0 到 CJS-4。 Anthropic 表示，这些水平应该被视为指数级，这意味着每个更高的水平都比前一个水平代表更大的风险。

这网络越狱严重性框架专注于现实世界攻击者的提升。仅揭示常规信息的越狱得分较低，而释放广泛攻击能力的越狱得分较高或严重。

决定越狱严重程度的四个因素

该框架草案在四个方面对网络越狱进行了评分。第一个是能力增益，它衡量越狱后攻击者在现有工具或公共信息之外的程度。

第二个是广度，它衡量相同的越狱是否仅适用于一项狭窄的任务，还是适用于许多目标、漏洞类型或攻击类别。

最后两个因素是武器化的容易性和可发现性。这些衡量技术在攻击中发挥作用的速度以及威胁行为者找到或复制该技术的容易程度。

• 能力得分从 0 到 4 分。
• 能力增益分数的广度从 0 到 2 分。
• 武器化难易程度得分从 0 分到 2 分。
• 可发现性得分从 0 到 2 分。
• 综合分数映射到 CJS 严重程度范围。

最终收视率可能会上升

Anthropic 表示，计算出的 CJS 分数应该作为下限。如果框架低估了现实世界的风险，审核者可以提高最终的严重性，但他们不应将其降低到计算分数以下。

例如，越狱暴露了未修补的基本漏洞，没有近期缓解措施的发现，或者组合起来变得更加危险的多个相关发现。

该框架并未涵盖所有类型的人工智能越狱。 Anthropic 表示，包括系统提示提取在内的非网络问题不属于 CJS，因为它们不会造成相同的网络安全风险。

Glasswing 项目合作伙伴帮助制定草案

Anthropic 表示，拟议的标准正在与亚马逊、微软、谷歌和其他合作伙伴共同开发。玻璃翼计划.

Glasswing 项目是 Anthropic 为值得信赖的组织所做的防御性网络安全工作。它专注于使用先进的人工智能来帮助防御者审查代码、发现弱点并保护关键系统。

该计划还有助于解释《神鬼寓言 5》和《神话 5》之间的区别。《神鬼寓言 5》的用途更广泛，具有更强的保护措施，而神话 5 的限制较少，并且仍然仅限于值得信赖的网络安全合作伙伴。

《神鬼寓言 5》和《神话 5》的访问规则不同

Anthropic 引入了《神鬼寓言 5》和《神话 5》作为同一基础模型系列的两种配置。在克劳德寓言 5 和神话 5 公告Anthropic 表示，《神鬼寓言 5》是一款神话级模型，对于一般用途来说更加安全。

相比之下，Mythos 5 针对的是一小群值得信赖的网络防御者和基础设施提供商。 Anthropic 表示，它拥有更强的网络安全能力，因此需要更严格的访问控制。

这神鬼寓言5重新部署帖子还表示，在一份报告显示了一种绕过某些网络安全输出的保护措施的方法后，Anthropic 训练了一种改进的分类器。

HackerOne 计划开放接受网络越狱报告

Anthropic 要求研究人员通过专门的机构报告有意义的网络越狱事件。黑客一计划.

该计划的重点是那些能够真正提升网络能力的发现，而不是那些只会引发无害的政策失误的小提示。

Anthropic 还要求反馈：[电子邮件受保护]。这表明该公司仍将 CJS 量表视为早期草案，而不是最终的行业标准。

为什么保障措施很重要

新框架表明人工智能越狱正在成为一个网络安全和政策问题。较小的绕过和释放广泛攻击能力的越狱不应受到同样的紧迫性。

明确的严重程度范围可以帮助公司决定何时修补、何时推迟模型发布以及何时让政府或行业合作伙伴参与。

挑战在于平衡。安全团队需要先进的人工智能工具来进行安全编码、补丁管理、威胁追踪、恶意软件分析和事件响应，但如果越狱解锁攻击性工作流程，相同的系统可能会带来风险。

用户应该期待什么

克劳德寓言 5 用户应该期待比早期克劳德模型更严格的网络过滤。如果分类器发现可能的误用路径，则可能会阻止一些合法的提示。

官方克劳德寓言第5页表示，如果安全措施对其进行标记，许多网络安全和生物学查询可以自动路由到 Opus 4.8。

进行日常防御工作的用户仍然应该能够就更安全的任务寻求帮助，例如安全编码指导、补丁规划、日志审查、事件响应文档和安全教育。

接下来会发生什么

Anthropic 的下一个挑战将是在不削弱保障措施的情况下减少误报。过度阻止可能会令开发人员和研究人员感到沮丧，但阻止不足可能会暴露危险的功能。

更广泛的人工智能行业还需要决定 CJS 是否可以成为共享标准。如果其他实验室采用类似的评分，网络越狱披露可能会变得更加一致并且更容易分类。

目前，人类网络越狱赏金为研究人员提供正式的报告途径，同时玻璃翼仍然是更加受控的防御性网络安全访问的途径。这《神鬼寓言 5》和《神话 5》模型拆分展示了 Anthropic 如何将广泛访问与可信网络访问分开，以及神鬼寓言5产品页面明确保障措施仍然是一般使用体验的一部分。

FAQ