7月28日消息,Anthropic CEO Dario Amodei回应开放权重模型争议,称公司从未主张全面封禁。OpenAI、Google和SpaceX相继加入开源联署后,Anthropic仍是主要前沿模型公司中唯一没有
7月28日消息,Anthropic CEO Dario Amodei回应开放权重模型争议,称公司从未主张全面封禁。OpenAI、Google和SpaceX相继加入开源联署后,Anthropic仍是主要前沿模型公司中唯一没有签字的一家。Amodei认可开放权重模型能降低成本、加强竞争,也能让客户自行部署。他称,没有危险能力的开放模型是「公共产品」。但他不认同开放模型一定更安全,也不认同防守方一定比攻击者获益更多。权重一旦发布,安全限制可以被移除,模型也无法收回。Anthropic提出三项替代方案:限制先进芯片和制造设备流向中国;打击工业规模的模型蒸馏;要求所有足够强的模型接受网络攻击、生物风险和对齐测试,不分开放或闭源。