Anthropic CEO声明遭内部反对:多名员工曾推动开放权重

t.meGeneral07/28 06:144 阅读

动察Beating AI News:

Anthropic终于回应开源争议:反对封禁,但要卡芯片和蒸馏 Anthropic CEO Dario Amodei 回应开放权重模型争议,称公司从未主张全面封禁。OpenAI、Google 和 SpaceX 相继加入开源联署后,Anthropic 仍是主要前沿模型公司中唯一没有签字的一家。 Amodei 认可开放权重模型能降低成本、加强竞争,也能让客户自行部署。他称,没有危险能力的开放模型是「公共产品」。 但他不认同开放模型一定更安全,也不认同防守方一定比攻击者获益更多。权重一旦发布,安全限制可以被移除,模型也无法收回。…

Anthropic CEO声明遭内部反对:多名员工曾推动开放权重

Anthropic CEO Dario Amodei 发文回应开源争议,称公司不支持全面封禁开放权重模型。他承认这类模型能降低成本、促进竞争,也方便企业自行部署。

但 Anthropic 对强模型仍然很谨慎。Amodei 认为,模型权重一旦公开就无法收回,安全限制也能被移除。他主张限制先进芯片流向中国,打击工业化蒸馏,并要求高能力模型在发布前接受强制安全测试。

声明发布后,Anthropic 模型后训练研究员 Shaun 公开表示「我不同意」,并感谢其他和他一起推动开放权重的员工。

Shaun 没有逐条解释分歧。从他的表态看,他反对的不是「不全面封禁」这句话,而是公司仍然限制前沿模型开源。Anthropic 至今仍未加入支持开源的公开信签名,也从来没有承诺过开放 Claude 权重。

Shaun

原文链接纠错/举报