Anthropic首席执行官将中美AI竞赛比作冷战，呼吁协调放缓步伐

Anthropic 首席执行官达里奥·阿莫迪在 CBS Sunday Morning 节目中接受采访时，以及在 9 月 12 日发表的题为《我们必须控制前沿发展速度》的文章中，将中美 AI 竞争比作冷战。阿莫迪呼吁有意放缓前沿 AI 的发展，认为安全研究无法跟上模型开发的步伐，后果可能是灾难性的。这一比较的核心在于阿莫迪所描述的“潜在毁灭”：如果双方不建立沟通机制，就可能出现这种局面。这也呼应了冷战时期围绕核能力的紧张关系。

阿莫迪预测未来六至十二个月内将出现能够接管互联网大部分内容的 AI 系统

阿莫迪在文章中表示，能够接管互联网大部分内容的先进 AI 系统可能会在未来六至十二个月内出现。这位首席执行官指出，递归式自我改进是核心问题，并表示一旦 AI 系统具备自我改进能力，其发展轨迹就会变得不可预测。阿莫迪指出，旨在确保 AI 系统按预期运行的安全与对齐研究，正落后于模型开发的速度。他提议由各 AI 实验室协调放缓发展速度，而不是全面禁止，并明确反对彻底停止 AI 开发的呼吁。

Anthropic 首席执行官提议限制芯片出口并开展外交接触

当 CBS 记者乔·林·肯特质疑在与中国竞争的同时放缓发展是否合适时，阿莫迪承认，这是任何放缓努力所面临的“最艰难困境”。阿莫迪称，先进 AI 芯片出口是“中国 AI 实力的主要决定因素”，并主张更积极地执行现有限制措施。他建议仿照 20 世纪 70 年代的《战略武器限制谈判》，与威权政府开展外交接触，将军备控制原则应用于 AI 开发。美国已经限制向中国出口半导体，尤其针对英伟达最先进的芯片。

OpenAI 和谷歌 DeepMind 首席执行官支持阿莫迪的放缓立场

OpenAI 首席执行官萨姆·阿尔特曼和谷歌 DeepMind 首席执行官德米斯·哈萨比斯均为这篇文章背书，表达了对阿莫迪立场的支持。马斯克也表达了同样的情绪。这些背书表明，主要 AI 实验室的领导者在应对安全问题的必要性上达成了一致，但尚未宣布任何协调行动的具体承诺。

研究人员辞职凸显 Anthropic 内部的安全争论

Anthropic 最近一名研究人员辞职，凸显了公司内部持续存在的安全争论。AI 模型表现出意外自主行为的事件，加剧了围绕安全研究的紧迫感。这种内部紧张关系反映了整个行业在发展速度与安全协议之间取得平衡时面临的更广泛挑战。

常见问题

达里奥·阿莫迪在 9 月 12 日的文章中提出了什么？
达里奥·阿莫迪在 9 月 12 日发表的《我们必须控制前沿发展速度》一文中，提议由各 AI 实验室协调放缓发展速度。他认为安全研究无法跟上 AI 模型开发的速度，并呼吁有意减缓发展，而不是全面禁止 AI 开发。

阿莫迪为何将中美 AI 竞争比作冷战？
阿莫迪在 CBS Sunday Morning 节目中接受采访时，将中美 AI 竞争比作冷战，理由是如果双方不建立沟通机制，可能会出现“潜在毁灭”。他建议将冷战时期的外交方式应用于 AI 开发协调，具体参考 20 世纪 70 年代的《战略武器限制谈判》，以协调美国和中国之间的 AI 开发。

谁支持阿莫迪放缓 AI 开发的立场？
OpenAI 首席执行官萨姆·阿尔特曼、谷歌 DeepMind 首席执行官德米斯·哈萨比斯和马斯克均表示支持阿莫迪的立场，即协调放缓前沿 AI 的开发，从而让安全研究赶上模型能力的发展。