美国政府紧急叫停Anthropic AI模型:出口管制引发多层面震荡
据鄱阳在线综合报道,具体情况如下。
近期,美国AI初创企业Anthropic遭遇了前所未有的监管危机:在短短十天前,该公司表示其最先进的大规模AI模型面向公众开放,然而,美国政府却以出口管制为由,紧急叫停了这些模型的全球访问,使得Fable 5和Mythos 5模型在全球范围内无法被大多数用户访问。这标志着美国首次对AI模型本身实施出口管制,引发了安全、产业与盟友关系等多方面的震动。
据《经济学人》报道,美国国会参议员马克·华纳在 6 月 11 日的一次机密简报会上转述称,同时担任国家安全局(NSA)局长和美国网络司令部司令的约书亚·鲁德将军告诉他,Anthropic 的 Mythos 模型在一次授权红队演练中,突破了 NSA 绝大部分机密系统防线,并且用的不是数周或数天,而是“数小时”。这一说法尚未获得任何政府机构正式确认,相关细节也仍属机密,但它快速变成外界解释美国政府为何在之后的 6 月 12 日突然下达严厉出口禁令的主导叙事:一款出自商业公司的 AI 模型,在短时间内攻破了全球防护最严密的机密基础设施之一。
Anthropic 今年 4 月首次对外披露 Mythos 时就明确称,该模型在注意到软件安全漏洞方面实力过强,存在被滥用风险,因此不会向公众开放,只在名为 Project Glasswing 的项目下,向约 200 家经过严格审查的合作伙伴提供访问权限,其中含亚马逊、苹果、Google、微软、英伟达、摩根大通以及 Linux 基金会等机构。
此后,Mythos 已经帮助注意到了数千个真实世界漏洞,含一个在 OpenBSD 中潜伏长达 27 年的安全缺陷,以及 Mozilla Firefox 150 浏览器中的 271 个新问题。6 月 9 日,Anthropic 面向公众发布了 Fable 5 模型,其底层基础与 Mythos 相同,但在之上叠加了安全分类器,用于拦截被判定为危险的请求,并将这些请求重定向到实力更弱的模型处理。
Anthropic 的立场是,这些“护栏”足以使 Fable 5 安全适用于大众;而在鲁德将军关于 NSA 渗透测试的证词曝光后,美国政府显然不认同这一判断,以为在 Mythos 与 Fable 5 之间,仅靠安全分类器带来的“实力差”并不足以构成可靠防线。引爆这一切的直接导火索,是一则“越狱”报告。美国政府在 6 月 12 日通知 Anthropic,称注意到了一种绕过 Fable 5 安全分类器的方法,可能解锁其最敏感的网络攻防实力。
据 Anthropic 说法,政府方面仅以口头方法告知这一漏洞,描述其为“潜在的、狭窄的、非普适性越狱”,并要求公司在 90 分钟内采取行动。这项越狱最早是由亚马逊向美国商务部报告的——而亚马逊既是 Anthropic 的关键投资方,同时也在 AI 范畴与之存在竞争关系。同一时间,一名使用化名“Pliny the Liberator”的研究者,则在 Fable 5 上线后 48 小时内,将其自称的完整系统提示词发布到了 X 和 GitHub 上。
面对政府的紧逼,Anthropic 做出反击,指出其评估以为这次越狱影响范围有限、且不具有普适性,并未从根本上击溃 Fable 5 的整体安全防护。公司还指出,类似的安全薄弱点在其他面向公众开放的模型中同样存在,含 OpenAI 的 GPT-5.5 等,但这些模型并未遭遇同等强度的出口管制。Anthropic 在声明中警告称,如果把当前对 Fable 5 的标准一体适用于整个产业,“几乎所有前沿模型提供商的新模型部署都将被迫停滞”。
部分安全界人士认同 Anthropic 的评估。前 Facebook 首席安全官 Alex Stamos 称,他已审阅相关研究,以为其中确有值得重视的注意到,但并未展现出足以印证这次极端反应的“独特实力”。然而,特朗普政府顾问 David Sacks 持相反观点,称很难理解 Anthropic 如何能声称,一次足以让网络武器全面运作的越狱,还可以被定义为“不棘手”。
此次决策的政治背景使得外界难以将其视为单纯的安全技术问题。今年2月,特朗普政府曾要求所有联邦机构停止使用Anthropic的模型,原因是该公司拒绝签署允许其AI被用于自主武器系统和大规模国内监控的合同条款。之后,五角大楼将Anthropic列为“供应链风险”,禁止军工承包商使用其模型,而Anthropic目前正在联邦法院对此发起诉讼。
这一系列冲突使得此次出口管制更像是长期博弈在重大安全事件刺激下的集中爆发。更深层的问题在于制度缺位。有分析指出,美国至今缺乏一套稳健、透明的框架来评估和管控前沿 AI 模型的安全风险。6 月 2 日,特朗普政府发布行政命令,呼吁 AI 公司在新一代前沿模型公开发布前,向政府“自愿”提供 30 天的预先访问权限。然而 Fable 5 在 7 天后即直接上线,没有遵从此一“自愿框架”,6 月 12 日的禁令在现实效果上,变成迫使企业配合政府审查的硬性手段。
《对话》网站的一篇分析文章以为,本质问题在于政府缺乏自主评估前沿专有模型所需的数据、基础设施和专业实力,对企业的依赖在这份行政命令中也以某种形式被承认。这次禁令的影响远超美国国内。Fable 5 和 Mythos 5 的访问被全面切断时,美国传统情报同盟“五眼联盟”中的澳大利亚、英国、加拿大和新西兰也毫无预警地同时被锁在门外。
被视为全球前沿模型测试领先机构的英国 AI 安全研究所,即在对相关系统进行评估的过程中,突然失去了访问权限。为此,五国情报机构在本周一罕见地发表联合声明,虽然未点名 Anthropic 或 Mythos,但语境毫无疑问指向当前局势。联合声明指出,前沿 AI 模型预计将超越当前产业预期,从根本上改变网络攻防的实力格局,相关风险的时间窗口不再以“年”为单位,而是以“月”为单位计算。
含 NSA 网络安全主管 David Imbordino 与代理 CISA 主任 Nick Andersen 在内的多位高级官员签署了这一文件。声明警告称,AI 将明显下调恶意行为者发动攻击的门槛,并继续利用那些多年未解决的老问题——未打补丁的系统、薄弱的身份管理控制、以及不必要暴露在互联网上的服务。声明指出,网络风险已不再是单纯的技术问题,而是核心的企业风险和领导层责任。
澳大利亚悉尼大学国家安全与 AI 专家 Olivia Shen 指出,外界不应把视野局限在 Anthropic 一家公司身上。她以为,业界必须预期“下一个 Mythos 或下一个 Fable 很快就会出现”,目前公众只能看到已发布的模型,而可能存在由中国或其他国家及行为体开发的、同样先进甚至更先进的系统正在闭门推进。安全媒体 CyberScoop 则指出,触发这次政府行动的亚马逊威胁情报报告中所提到的攻击实力,其实已经可以借助较旧一代的模型达成,比如 Claude Opus、Claude Sonnet,乃至不受任何美国出口管制约束的开源中国模型。
传统上,开源模型在实力上落后头部实验室约 6 至 8 个月,因此禁用 Fable 5 是否真能明显减缓有意图对手的步伐,仍是一个悬而未决的问题。目前为止,Fable 5 和 Mythos 5 对大多数用户仍处于下线状态。Anthropic 此前对媒体称,公司“非常有信心在接下来几天内恢复模型可用性”,但这一表态迄今尚未兑现。
预测市面给出的概率显示,在 7 月 1 日之前恢复访问的可能性约为 57%。特朗普上周在接受 Axios 采访时则称,他不再将 Anthropic 视为国家安全威胁,并称“一周前也许算是,现在不是了”。双方在 G7 期间曾进行会面,特朗普对谈判进展的评价是“一切进展顺利”。含网络安全研究人员、AI 创业者和企业高管在内的数十名人士,本周一联名公开致信白宫,呼吁政府在未来 AI 风险评估与应对过程中,承诺采取“开放、科学且透明”的程序。
外界以为,更具操作性的信号可能来自 Anthropic 拟于 7 月 8 日生效的身份验证举措,该举措将允许公司验证用户是否为美国公民,从而有望在不完全撤销出口管制指令的前提下,先行恢复模型在美国境内的可用性。尽管目前尚不清楚禁令将如何结束,但过去十多天已经明确标志着转折点:这是美国首次将出口管制直接应用于AI模型本身,而非支撑其运行的硬件设备。
欧洲方面正密切关注这一先例,担心类似情况未来可能在Azure、AWS或Google Cloud上重演。英国前安全部长Tom Tugendhat直言,在这样一堂“如此直观的课”之后,各国都会开始思考如何达成本国在关键云和AI基础设施上的主权实力。至于Mythos是否真的在数小时内攻破了NSA的大部分机密系统,目前尚未得到任何政府机构的独立确认,具体细节仍深藏于机密文件之中。
本文由鄱阳在线综合整理,转载请注明出处。