Anthropic 的 Dario Amodei 回应：不反对开源权重模型，但担忧中国 AI

Anthropic 创始人兼 CEO Dario Amodei 周一下午回应了业界中的传言，即他的公司以某种方式支持美国政府禁止中国开源权重模型的努力，或可能普遍禁止开源权重模型。

“任何读过我过去文章的人都应该知道，我不认为这类禁令是一种有用的措施，但让我明确地说清楚，以免产生误解：Anthropic 从未倡导过禁止开源权重模型，”他写道，强调为他本人所加。

他的回应是在 Nvidia 创始人兼 CEO Jensen Huang 在 X 平台（他的首个帖子）上分享周五的一封公开信之后发布的。在这封信中，Nvidia 以及包括 Hugging Face、Meta、Microsoft、Mistral 和 Nvidia 在内的众多其他 AI 公司敦促政策制定者不要对开源权重 AI 模型施加广泛的“过早限制”。

虽然那封信并未具体提及中国，但业界的辩论焦点在于，有指控称中国 AI 实验室的能力不断增强，且往往通过窃取美国同行的知识产权来实现。其中一种方法是蒸馏，即一个 AI 用大量提示词轰炸另一个模型，以了解其工作原理。

Amodei 在周一发布的博客文章中表示，他认为开源权重模型与中国的威胁属于不同类别。“不具备危险能力的开源权重模型是一种公共产品：除了运行它们所需的计算能力外，它们不花费任何成本，而且为商业、开发者和研究人员提供价值。”

Amodei 在帖子中表示，他对 AI 长期存在担忧，但公司使用开源权重模型（即使是来自中国的）并不在其中。

他的担忧在于，“威权政府”会构建比美国更强大的模型，以实现“永久的军事优势”和/或利用 AI 压迫本国人民。他说中国共产党（CCP）并不是他唯一担心的威权政府，但却是“最有能力的”。

阿莫代伊还表示，他担心人工智能不仅会引发网络安全问题，还会助长“生物攻击”。在他看来，开源权重模型在这些场景下更加危险，因为很难为它们设置护栏或监控其使用。他还引用英国人工智能安全研究所的一份报告指出，一旦开源权重发布，就无法撤回。

这与开源倡导者的观点相悖：他们认为，获取不受单一实体控制的强大开源模型有助于防御者保护自己。

阿莫代伊列举了他认为能遏制中国的措施，包括限制其获取高端芯片（这已是美国长期政策），并呼吁正式打击模型蒸馏行为。美国已威胁，如果认定存在涉及美国模型的知识产权盗窃，将对中国实施制裁。

有趣的是，阿莫代伊还表示，他支持越来越多（部分由美国主导）建立模型安全测试机构的努力，特别是如果包括中国在内的整个世界都同意接受这一机制的话。

“我认为这个想法实际上已接近共识：让我感到鼓舞的是，特朗普政府近几个月也在朝这个方向迈进，”阿莫代伊写道。“请注意，要有效发挥作用，测试必须是全球性的，这意味着甚至中共也需要参与。我认为这其实是可能实现的……在防止人工智能生物武器方面进行有限的合作是可能的，因为这同样符合中国的利益。”