马克·扎克伯格：各 AI 实验室自行把关安全，无需统一放慢速度

Meta 首席执行官马克·扎克伯格在讨论 AI 公司是否应集体放慢模型开发时表示，各 AI 实验室本来就有责任按照安全训练所需的节奏推进，也有能力自行采取安全措施，无需等待全行业统一行动；商业激励和法律责任是推动各实验室改善对齐的双重机制。

扎克伯格的立场：商业激励与法律责任是各实验室自行把关的双重机制

扎克伯格认为，信任与“对齐”正在成为 AI 代理产品最重要的竞争力之一：如果 AI 代理无法遵循用户指示，或其行为不符合用户利益，人们就不会使用它，这使实验室有商业激励来改善模型对齐。除商业激励外，如果模型造成伤害，公司也可能面临法律责任，形成另一层外部约束。他据此主张，安全措施应融入各公司的开发流程，而不是等待某种全行业统一的指令或协议后才采取行动。

对于 AI 自我改进、加速下一代模型开发的风险，扎克伯格的主张是：将绝大部分算力用于服务人们的目标，而不是投入递归式自我改进，是维持安全的重要方法；他进一步主张，应向个人广泛提供先进 AI，避免力量集中于少数机构或 AI 系统。

Meta Muse 模型延迟发布：扎克伯格援引的自行决策安全案例

扎克伯格在说明各实验室可以自行作出安全决策时，以 Meta 的 Muse 模型为例：Meta 为加强安全性与网络安全，曾将 Muse 的发布时间延迟数个月，而这是 Meta 在日常工作中作出的决定，并不是要求其他公司先行动后自己再跟进。他表示：“我们没有要求其他公司先这么做，自己才会跟进。”值得注意的是，Muse 延迟发布的具体原因和延迟时长，目前仅来自扎克伯格本人的说法。

在外部评估方面，扎克伯格表示支持聘请独立评估人员和顾问，Meta Superintelligence Labs 已在数个领域采取这一做法，并期待出现规模更大、背景更多元的评估生态；但在这番公开表述中，他没有承诺让外部评估人员获得与内部员工相当的持续访问权限。

扎克伯格与阿莫代伊方案的关键差异：放慢进度的程度与外部评估的深度

扎克伯格的立场与 Anthropic 首席执行官达里奥·阿莫代伊近期提出的方案存在明显差异。阿莫代伊主张让模型能力的发展放缓至安全研究能够跟上的速度，并承诺邀请外部评估人员长期进驻，持续审查 Anthropic 的安全措施、训练流程与事故；扎克伯格则强调，各实验室可以自行延迟发布、接受外部评估，同时继续推进技术发展，无需统一放慢整体进度。

扎克伯格虽然支持不断壮大的外部评估生态，但他的立场是由各公司自行决定评估的深度和频率，而不是由行业统一设定最低标准。

马斯克的“Cool”回复与 All-In Summit 行业互审提案

埃隆·马斯克回复扎克伯格的说法时仅用“Cool”一词作答，没有说明具体认同哪些主张。值得注意的是，马斯克此前在 All-In Summit 提出了一套更具体的替代方案，其核心是让主要 AI 公司在模型发布前相互测试对方的模型：

访问机制：让 OpenAI、Anthropic、xAI、Google、Meta 等公司获得一定程度的竞争对手未发布模型 API 访问权限

测试范围：检查模型是否具备危险能力（如制造生物武器或核武器）或欺骗行为

发现问题：如果测试公司发现问题，开发公司应先处理问题后才能发布；如果拒绝，测试公司可以公开声明该模型存在安全风险

中国参与：如果制度要有效，就必须考虑如何让中国主要 AI 公司参与，否则“只是在削弱美国自己”

常见问题

扎克伯格对 AI 安全的核心立场是什么？

根据扎克伯格的公开说法，各 AI 实验室应自行按照安全训练所需的节奏推进，商业激励（用户不会使用未实现对齐的 AI 代理）和法律责任（模型造成伤害，公司将面临追责）是推动各实验室自行把关安全的双重机制；他支持外部评估，但不主张行业统一放慢模型开发进度。

扎克伯格与阿莫代伊的 AI 安全方案有何主要差异？

根据文章分析，关键差异体现在两个方面：在进度方面，阿莫代伊主张让模型能力的发展放缓至安全研究能够跟上的速度，而扎克伯格则强调各公司可以继续推进技术，自行决定是否延迟发布；在外部评估方面，阿莫代伊承诺让外部评估人员长期进驻，而扎克伯格没有承诺给予同等程度的持续访问权限。

马斯克在 All-In Summit 提出的行业互审方案是什么？

根据文章描述，马斯克提议让主要 AI 公司在模型发布前获得一定程度的竞争对手未发布模型 API 访问权限，以测试模型是否具备危险能力或欺骗行为；如果发现问题，开发公司应先处理问题；只有涵盖中国主要 AI 公司的制度才能有效运作。