美国已解除对Anthropic最新Claude模型——Fable 5和Mythos 5的出口限制，大约三周前，特朗普政府曾将这两款模型标记为国家安全风险。

Anthropic在一篇博客文章中确认，自即日起，Fable 5将在全球范围内可用，而美国组织自6月26日起已恢复对Mythos 5的访问权限。Anthropic表示，目前正与政府合作，将Mythos的访问权限扩展至“Glasswing项目中更广泛的国内及国际合作伙伴”。该项目允许受信任公司的网络安全研究人员出于防御目的访问Mythos。

在路透社和《纽约时报》看到的一封致Anthropic的信中，商务部长霍华德·卢特尼克表示，Anthropic“将不再需要为其Claude Mythos和Claude Fable AI模型的出口或国内转移申请许可证”。信中承认，Anthropic“已与美国政府密切协调采取措施，以应对”这些模型所带来的风险。

面对其模型发布面临的更长时间延迟，卢特尼克表示，Anthropic同意扩大与政府的合作。该公司表示，还建立了一个与黑客合作对其模型进行红队测试的项目，并且现在有一个专门的内部团队全天候监控新出现的越狱威胁报告。

在信中，卢特尼克提醒Anthropic，美国“保留随时重新评估这些决定”并重新实施出口限制的权利。但就目前而言，卢特尼克与白宫办公厅主任苏西·威尔斯一同在X平台上庆祝Fable 5的重新部署。

“过去两周，我们与Anthropic密切合作，分析并批准了Fable 5，以确保其与美国政府整体保持一致，并加强美国在人工智能领域的领导地位，”卢特尼克表示。

威尔斯没有直接提及Anthropic，但声称这是特朗普的胜利，她写道：“政府和私营部门以前所未有的方式携手合作，这种‘美国优先’的基础是前所未有的。我们共同的优先事项仍然是：以尽可能快且安全的方式部署最优秀的技术。”

权衡取舍：Fable 5可能会屏蔽常规编码任务。

6月12日，美国商务部命令Anthropic切断其最先进模型对美国境外任何人的访问权限。该命令源于担忧中国、俄罗斯或其他相关国家可能利用这些模型攻击美国基础设施，例如电网或银行系统。作为回应，Anthropic关闭了所有访问权限，因为它没有按国家屏蔽用户的方法。

特别是，Anthropic的博客称，Mythos被视为“对希望在网络攻击中滥用它的恶意行为者具有独特吸引力”。据Anthropic称，该模型“能够比任何其他模型——甚至除最熟练的人类安全专家之外的所有人——更有效地发现和利用软件漏洞”，并且这些“强大的网络安全能力”可能被用来对付美国。

Anthropic表示，Fable 5共享“相同的底层模型”，但与Mythos 5不同，它“不提供此类独特的攻击能力”。Fable 5面向普通公众设计，已经拥有Anthropic迄今为止应用于模型的最强安全防护措施，而Anthropic表示，在重新部署之前，这些防护措施现在甚至更加强大。

经过数周的测试，Fable 5不再容易受到亚马逊研究人员发现的一种绕过方法的影响，该方法曾识别出多个软件漏洞并触发了出口限制。Anthropic表示，最令人担忧的是一个案例，其中该模型被操纵生成了演示如何利用漏洞的代码。

据Anthropic称，测试证实，市场上较不先进的竞品模型，如GPT-5.5和Kimi K2.7，“能够识别出与Fable 5在报告中相同的漏洞”。这证实了“所报告的技术并未暴露任何独特的Mythos级别的网络能力”，Anthropic表示，“仅涉及常规的防御性网络安全工作。”

“即便如此，我们迅速采取行动解决了报告的绕过问题，”Anthropic写道。Anthropic表示，这种越狱方法目前已在超过99%的情况下被阻止。然而，该公司承认，加强安全防护措施带来了“权衡”，可能会导致“在常规编码和调试任务期间”一些良性提示词被屏蔽。

“我们与政府密切合作，训练了一个改进版的安全分类器，专门针对并拦截报告中描述的行为，”Anthropic 表示。“如果对 Fable 5 的请求被拦截，用户将收到通知，该请求将被转交给 Opus 4.8 处理。”

当然，Anthropic 表示，这种有助于防范针对模型的独特危险攻击的新型分类器也可能会“犯错”。该公司长期以来一直认为，构建一个完全“免疫”越狱攻击的模型“几乎不可能”，但通过加强红队测试，Anthropic 希望“确保我们和我们的安全合作伙伴能够率先发现重大越狱漏洞，并在恶意行为者利用它们造成危害之前将其修复。”

Anthropic 表示，亚马逊标记的攻击目前仅在“极少数情况下”有效，且“模型提供的信息可能不够详细，无法帮助网络攻击者。”

Anthropic 表示，通过保持“谨慎”，“绝大多数越狱攻击将无法成功解锁危险行为”，并且“制造这些攻击的成本极高、费力巨大。”

“即使越狱成功，我们的额外防御层”——这需要拦截一些良性请求——“也能提供额外的缓解措施，”该公司表示。

Anthropic 的越狱评分计划

Anthropic 的博文似乎淡化了亚马逊识别出的威胁，认为其风险低于该公司认为对政府构成的最大威胁：能够解锁广泛漏洞并引发不可预见攻击的通用越狱。

为了简化公私合作并确保对最大风险做出最快速的响应，Anthropic 表示，AI 行业的目标应该是对风险进行分类，以确保在内部和政府层面都能采取适当的干预措施。

目前，Anthropic 正与亚马逊、微软、谷歌及其他 Glasswing 合作伙伴合作，“起草一个评估 AI 越狱严重性以及 AI 开发者应如何应对的共识框架。”

Anthropic 表示，欢迎其他行业合作伙伴加入这些讨论，尽管该流程“并不完美”，且主要聚焦于建立四项评分标准来评估越狱攻击。这包括评估越狱提供了多少能力、它能够实现多少攻击性任务、人类将越狱武器化的难易程度（单次提示词越狱被标记为风险最高），以及发现该越狱是否需要专业知识。

该博客称，利用这一框架，Anthropic 已组建了一个团队，将全天候监控越狱提交渠道。这家AI公司还确认，正在启动“一项新的 HackerOne 计划，安全研究人员可以通过该计划提交他们在《寓言5》中发现的潜在网络越狱方法”，以将红队测试作为首要任务。

Anthropic 深化与政府的关系

对 Anthropic 而言，政府测试的一个成果似乎是改善了与政府的关系，此前该公司曾因一项将这家AI公司列入黑名单的国家安全风险认定而起诉美国政府。Anthropic 声称，该认定是对该公司拒绝为政府开发自主武器或进行国内大规模监控而提供模型访问权限的报复。

Anthropic 在其博客中表示，正在扩大与政府合作伙伴在部署前测试和评估方面的合作承诺。这些努力将包括向政府提供前沿模型的早期访问权限、快速共享关于新型越狱方法的信息，以及投入资源进行联合研究，以“帮助推动AI评估领域的技术进步”，Anthropic 表示。

Anthropic 表示，这种合作提供了“一个有效全球协调AI风险与收益的初步模板”，同时敦促国会通过立法，以确保所有前沿模型开发者步调一致。

政府的行动速度对 Anthropic 来说过于缓慢，令其不安。Anthropic 首席执行官 Dario Amodei 本月早些时候提出了他的立法提案，并引用《指环王》来强调他的观点。

在《指环王》的支线情节中，两位霍比特人试图唤醒树胡——一位睿智但行动迟缓的有知觉的树木——来保卫他的森林，抵御一支正在砍伐森林的军队。问题在于，树胡的行动速度与霍比特人截然不同。他仅仅向另一棵树打招呼就需要一整天的时间，因此要让他和他的同类迅速行动几乎是不可能的。人工智能与我们的政治制度之间的交汇点，感觉有点像霍比特人与树胡。

最初，特朗普计划对人工智能监管采取不干预的态度，以试图刺激创新。然而，Anthropic 的 Mythos 发布让特朗普感到不安，促使他在五月要求对前沿模型进行自愿安全测试。自那以后，据两位知情人士向《纽约时报》透露，特朗普“仍在制定一个框架，规定公司应如何正式提交新的人工智能模型以供审查，以及它们将被要求遵守何种标准。”

在他的帖子中，Amodei 呼吁国会迅速采取行动，为一个“人工智能可以从一个有趣的玩具”变成“一个数据中心里的一个由天才组成的完整国家”的世界重新构想安全法规，否则就有可能遭受“国家战略”层面的后果。

然而，专注于人工智能与国家安全的非营利组织“前沿安全研究所”的执行主任 Isaac Harris 告诉路透社，在 Anthropic 与政府深化合作之后，“最大的问号”是“来自中国、具有同等危险能力但防护措施更少的人工智能，将如何被美国政府在美国市场上处理。”

值得注意的是，Anthropic 最近指控中国人工智能公司阿里巴巴对 Claude 发动了规模最大的克隆攻击。作为回应，Anthropic 敦促国会通过法律，惩罚被发现窃取美国公司成果的中国公司。否则，那些无法获得 Anthropic 模型的恶意行为者，可能会转向防护措施更弱但能力日益接近的中国模型，发动令美国措手不及的攻击。

Ashley Belanger

高级政策记者

Ashley 是 Ars Technica 的高级政策记者，致力于追踪新兴政策和新技术的社会影响。她是一位驻芝加哥的记者，拥有 20 年从业经验。

上一篇

下一篇

1. 
   1. 索尼从用户图书馆中删除数字内容；我们再次意识到，购买的数字产品并不真正属于自己
2. 2. 美国国家航空航天局（NASA）可能向月球发射一台备用的核动力火星车
3. 3. 特朗普计划重新设计所有 .gov 网站，结果催生了 AI 设计的恐怖页面
4. 4. Reddit 将要求用户登录才能使用 old.reddit.com
5. 5. 亚马逊将新版 Fire Stick 侧载功能取消归咎于携带恶意软件的盗版应用