Anthropic 首席执行官否认关于禁止开放权重 AI 模型的说法

Anthropic 首席执行官 Dario Amodei 在周一发布了一篇博客文章，称他的公司从未主张禁止开放权重 AI 模型，回应了整个科技行业的相关批评。该表态出现在上周晚些时候：一批包括英伟达、微软、Meta 和 Palantir 在内的科技公司发布一封信，敦促政策制定者避免对开放权重模型实施过早的限制——这些模型允许用户下载、修改并在自己的基础设施上运行。争论焦点在于：目前在市场上占主导地位的、由中国开发的开放权重模型，是否应在美国面临限制，一些政府官员则正在考虑潜在的禁令。

科技联盟敦促不要对开放权重模型实施限制

一批科技公司在上周晚些时候发布了一封信，呼吁政策制定者避免对开放权重模型实施过早的限制。签署方包括英伟达、微软、Meta 和 Palantir。OpenAI 在信发布后签署了该信，而 Anthropic 并未签署。信中表示，应通过有针对性的法律与商业框架来处理对非法蒸馏的担忧。

Amodei 阐述 Anthropic 对 AI 模型治理的立场

Amodei 在周一的博客文章中写道，Anthropic 并未，也并不会主张将开放权重模型作为一个类别来进行禁令。他表示重点应转向：让强大的芯片脱离威权政权之手，阻止工业规模的蒸馏，并要求所有足够有能力的模型（包括开放式和封闭式）都进行安全测试。Amodei 写道，保护主义式的禁令无法解决他最严峻的国家安全担忧。Anthropic 最为人熟知的是开发一系列名为 Claude 的专有模型，并将其出售给企业。

Anthropic 指控阿里巴巴实施蒸馏攻击

上个月，Anthropic 向美国参议院银行、住房和城市事务委员会递交了一封信，指称中国的阿里巴巴（Qwen 模型家族的开发者）已对其实施了迄今为止最大规模的已知蒸馏攻击。蒸馏是一种 AI 训练方法：用已经在市场上推出的大型模型的输出，来构建一个更小且能力较弱的模型。Amodei 在周一表示，他同意应通过有针对性的法律与商业框架来处理对非法蒸馏的担忧。

Amodei 概述与联盟信函之间的一致与分歧

Amodei 表示他同意联盟信函的部分内容，特别是开放权重模型让客户拥有更强的控制权，扩大 AI 经济的可及性，并在某些用例中增强竞争。他表示他不同意这样一种观点：开放权重模型会让网络防御者优于攻击者，或者它们会让用户更容易开发保障措施。

常见问题

Anthropic CEO Dario Amodei 在周一关于禁止开放权重 AI 模型说了什么？

Dario Amodei 在周一发布了一篇博客文章，称 Anthropic 从未主张以“开放权重模型”这一类别为对象实施禁令。他写道，重点应转而放在：让强大的芯片脱离威权政权之手，阻止工业规模的蒸馏，并要求所有足够有能力的模型都进行安全测试。

为什么科技公司在上周晚些时候发布了关于开放权重 AI 模型的信？

包括英伟达、微软、Meta 和 Palantir 在内的一个联盟在上周晚些时候发布了一封信，敦促政策制定者避免对开放权重模型实施过早的限制。该信发出之际，正值围绕目前主导市场的、由中国开发的开放权重模型是否应在美国面临限制展开争论。

Anthropic 上个月对阿里巴巴提出了什么蒸馏指控？

上个月，Anthropic 向美国参议院银行、住房和城市事务委员会递交了一封信，指称中国的阿里巴巴（Qwen 模型家族的开发者）已对 Anthropic 发起迄今已知规模最大的蒸馏攻击。