据两名知情人士透露,本周亚马逊首席执行官安迪・贾西与一众科技企业高管一同向特朗普政府高层官员反映 ,Anthropic 两款顶尖大模型存在国家安全隐患 。
知情人士称,这位 Anthropic 最大投资方与核心云服务商的负责人,近日与政府官员展开多轮沟通 ,直接推动特朗普政府于上周五晚间出台针对 Anthropic 克劳德神话 5(Claude Mythos 5) 、寓言 5(Fable 5)两大模型的全新出口管制措施,管制理由为国家安全风险。新规禁止外籍人员访问上述两款模型;Anthropic 表示,为遵守监管要求 ,公司已暂停所有客户对两款模型的访问权限。
亚马逊发言人向行业媒体《The Information》回应:“作为服务大量政企客户的头部云服务商,政府时常就潜在安全风险征询我方意见 。针对此类沟通细节,我们不予对外披露。”
此次出口管制是 Anthropic 与特朗普政府持续博弈中遭遇的又一重挫。近几个月 ,这家克劳德大模型开发商与美国政府关系持续恶化,导火索是今年 3 月美国国防部将其模型列入供应链风险清单 。矛盾根源在于双方存在核心分歧:Anthropic 大模型是否可用于国内大规模监控、自主致命武器等高危场景。
一名美国政府高层官员周六透露,白宫暂无计划将针对 Anthropic 高端模型的出口管制扩大至其他 AI 企业。
Anthropic 上周五表示,公司已联合美国及多国政府机构排查寓言系列模型的安全漏洞 。该企业此前曾预警 ,旗下 AI 系统能力已高度发达,甚至能比人类更高效挖掘软件程序漏洞。一名接近 Anthropic 的消息人士称,政府此前并未反对寓言 5 模型对外发布。
贾西与政府的沟通、以及白宫出台模型访问限制 ,也反映出科研人员与网络安全专家的普遍担忧:Anthropic 最新两款大模型具备极强能力,可快速挖掘各类新型安全漏洞与系统利用缺陷。本周二,Anthropic 推出克劳德寓言 5 精简版 ,刻意阉割核心能力,禁止其解答网络安全 、前沿 AI 研究相关问题 。
Anthropic 上周五晚间发布官方博客称,美国政府已掌握一套可绕过寓言 5 内置安全护栏的提示词越狱攻击方法。
Anthropic 证实 ,已有演示案例证明该越狱手段能够挖掘系统漏洞,但强调被挖出的漏洞 “技术门槛较低 ”,市面上其他公开大模型同样能识别同类漏洞。
两名知情人士透露 ,在听完贾西与其他科技高管的反馈后,美国国家网络总监肖恩・凯恩斯克罗夫特上周五召集白宫高层开会,与会官员认定,实施出口管制是管控 Anthropic 风险最直接有效的手段 。
美国国家网络总监办公室发言人暂未就此置评。
四名熟悉通话流程的人士表示 ,会议结束后,Anthropic 首席执行官达里奥・阿莫迪于上周五与政府官员进行通话。会谈中,Anthropic 团队解释 ,此次越狱手段挖出的漏洞难度偏低,其他大模型均可实现同类漏洞挖掘;但美方告知企业,政府已敲定落地出口管制的决定 ,不会更改 。
Anthropic 与亚马逊构建了深度多元的合作关系。这家电商巨头今年 4 月披露,自 2023 年起已向 Anthropic 投资 130 亿美元,并计划根据商业化里程碑再追加 200 亿美元投资。亚马逊自研 Trainium 芯片为 Anthropic 大模型提供训练与算力支撑 ,Anthropic 全部模型均部署在亚马逊云科技(AWS)平台 。
今年亚马逊同时大手笔布局 Anthropic 竞品 OpenAI,承诺最高投资 500 亿美元,并首次通过 AWS 渠道对外分销 OpenAI 最新大模型。
特朗普政府此番出台 AI 出口管制 ,距离其两周前签署人工智能行政令仅隔数日。该行政令推出一套自愿协作框架,要求 AI 企业在向合作伙伴、公众发布高端模型前,主动将模型交由政府提前评测 。
《The Information》此前报道,这份行政令诞生于白宫内部激烈博弈:政府内部曾争论 ,是否要对发布前沿大模型的 AI 企业实施更严苛的许可审批制度。
海量资讯、精准解读,尽在新浪财经APP责任编辑:郭明煜



