Anthropic终于回应开源争议:反对封禁,但要卡芯片和蒸馏
t.meGeneral07/28 01:057 阅读
更新:SpaceX已加入开源公开信签名,Anthropic仍缺席 英伟达、微软、Meta 等公司联合发布《开放权重与美国 AI 领导力》公开信继续扩容。签署机构已从首发的 25 家增至 77 家。 其中 SpaceX 最受关注。马斯克此前只在 X 上转发黄仁勋的帖子,称「完全支持,Jensen 是对的」。当时公司没有落款,如今 SpaceX 已正式出现在名单中。 这封信要求美国政府不要过早限制可下载和自行部署的开放权重模型,并把正常蒸馏与非法提取区别处理。Anthropic 仍然没有签。 签署名单
Anthropic终于回应开源争议:反对封禁,但要卡芯片和蒸馏
Anthropic CEO Dario Amodei 回应开放权重模型争议,称公司从未主张全面封禁。OpenAI、Google 和 SpaceX 相继加入开源联署后,Anthropic 仍是主要前沿模型公司中唯一没有签字的一家。
Amodei 认可开放权重模型能降低成本、加强竞争,也能让客户自行部署。他称,没有危险能力的开放模型是「公共产品」。
但他不认同开放模型一定更安全,也不认同防守方一定比攻击者获益更多。权重一旦发布,安全限制可以被移除,模型也无法收回。
Anthropic 提出三项替代方案:限制先进芯片和制造设备流向中国;打击工业规模的模型蒸馏;要求所有足够强的模型接受网络攻击、生物风险和对齐测试,不分开放或闭源。
Anthropic
Anthropic
Our position on open-weights modelsAnthropic CEO Dario Amodei on open-weights models
原文链接纠错/举报
