近日，随着Kimi K3发布引发美国对开源AI模型的争议，美国出现大批声音要求政府禁止开放权重模型。英伟达、微软、Huggingface、a16z、Dell、Palantir、Y Combinator等企业签署联合信表态支持开源AI模型。作为主要反方的Anthropic一直未表态，直到今日其CEO Dario Amodei发文明确立场。
Amodei在文中澄清：Anthropic从未主张禁止开放权重模型。他认为，不具备危险能力的开放权重模型是一种公共产品，除了运行所需算力外无额外成本，为开发者、企业和研究人员提供了价值。但他同时强调，保护主义禁令并不能解决最严重的国家安全担忧。
他提出两种噩梦情景：一是威权政府构建出比美国更强大的AI模型，用于永久军事优势或深度镇压；二是强大AI模型被滥用于网络攻击或生物攻击。针对这些担忧，他重申一贯倡导的三项措施：
- 一、禁止向中国出售强大芯片或芯片制造设备，并打击走私和变相获取行为。根据Scaling法则，没有美国芯片，中国就无法构建比美国更强大的模型，这是阻断首要威胁最直接的方式。
- 二、打击工业规模蒸馏操作。蒸馏比从头训练模型所需的算力效率高得多，使得中国能够在芯片受限的情况下构建出接近前沿的模型。应通过政策干预威慑这种操作，而非一刀切禁止开放权重模型。
- 三、所有足够强大的模型，无论开放还是封闭，都应通过强制性安全测试。测试应涵盖网络、生物和对齐风险，并需具有全球性。他对此表示乐观，认为在防止AI生物武器等领域可达成有限国际合作。
Amodei指出，开放权重模型扩大了AI经济可及性，加强了竞争，给予客户更多控制权。但他不同意公开信中关于“开放权重模型必然使安全防护更容易建立”的论断，认为生物学具有强烈的攻防不对称性，足够强大的模型可能被用于快速武器化大流行级病原体，而防御需要数年时间。这类问题应通过严格的发布前测试来实证回答。
最后他强调：Anthropic没有也不主张禁止开放权重模型整体类别，应专注于将强大芯片挡在威权政权之外、阻止工业规模蒸馏、要求所有足够强大的模型通过安全测试。