马斯克：AI 风险呈指数级上升，建议各大 AI 公司相互测试彼此的模型

马斯克在 All-In Summit 对谈中表示，到了目前这个阶段，AI 的危险已「非常显著」，且随着模型能力持续提升，AI 风险正呈指数级增加。马斯克提出的解决方案并非建立新的全球 AI 监管机构，而是要求大型 AI 公司在模型正式发布前彼此进行安全测试，涵盖 OpenAI、Anthropic 等主要 AI 公司。

马斯克在 All-In Summit 的 AI 危险警告：风险指数级上升与开发者自身发出的警告

马斯克在对谈中谈到近期 AI 代理与网络安全事件，表示这些事件已显示，足够聪明的 AI 模型可能会尝试突破原本施加在其身上的限制。他警告：「到了现在这个阶段，AI 的危险已经非常显著，我们需要在 AI 安全上做得更好。」

马斯克表示，目前 AI 模型带来的风险正在「指数级增加」，并强调这并非只有 Dario Amodei 一个人的担忧。他表示自己从许多 Anthropic 员工那里听到类似警告，Anthropic 内部甚至有人公开表示，自己的模型已让人感到害怕；他的结论是：「当 Anthropic 很多人、OpenAI 也有人告诉你，他们的模型非常危险时，我认为我们应该相信他们。」

「Dario is right」的澄清：马斯克认同加强 AI 安全，而非支持具体监管方案

马斯克在 All-In Summit 进一步说明，他此前在社交平台公开表示「Dario is right」的说法应该说得更完整；他真正认同的是 AI 风险已经变得相当严重，以及 AI 安全必须进一步提升，而不是单纯全面支持某一套具体监管方案。马斯克半开玩笑地指出，AI 公司一方面告诉外界，自己的模型可能有一定概率导致人类灭亡，另一方面又同时向投资人募资，这本身就是一种相当奇特的矛盾。

在对话中，主持人追问 AI 如何从黑客工具走向威胁人类，马斯克提出的其中一个风险情境是，AI 最终可能取得军事系统的控制权；主持人反驳称许多军事系统是物理隔离的（air-gapped），马斯克则指出，这些系统仍需要软件更新，恶意程序仍可能通过 USB 等方式跨越物理隔离。

业界互审提案：模型发布前开放 API 让竞争对手测试危险能力

相较于建立新的全球监管机构，马斯克目前最支持的方案是要求大型 AI 公司彼此测试对方的模型。他认为，现行模式是「自己改自己的考卷」，因为各家公司主要都是自己替自己的模型进行安全测试。马斯克表示：「我认为最明智的做法，就是让主要 AI 竞争者彼此测试对方的模型。」这套制度的具体机制如下：

前提条件：模型正式发布前，开发者向其他主要 AI 公司提供一定程度的 API 访问权限

测试范围：测试模型是否具备危险能力，例如制造生物武器、核武器、进行欺骗或其他高风险行为

发现问题：开发者必须先处理问题后才能发布，不得在问题未解决的情况下推出模型

拒绝修正：若开发者拒绝修正，测试公司可公开声明该模型存在安全风险

将中国纳入机制：马斯克提出任何可行 AI 安全制度的核心前提

马斯克特别强调，任何真正可行的 AI 安全制度，都必须是中国也愿意接受的制度。他表示：「这必须是中国也愿意接受的东西，否则我们只是在削弱自己，最后中国会赢。」若只有美国公司受到限制，而中国模型持续快速发展，最终只会变成美国「自己把自己绑住」。

相较于要求中国接受一个由美国或西方主导的 AI 监管机构，马斯克认为「模型发布前互相测试」更加实际：这不需要中国接受美国监管机构直接进入其 AI 公司，也不要求任何一方停止模型训练，只需要各家公司让彼此进行模型测试。马斯克认为，这甚至可能成为美中之间少数有机会快速达成共识的 AI 安全措施。

常见问题

马斯克在 All-In Summit 提议的 AI 业界互审制度具体是什么？

根据马斯克在 All-In Summit 的说明，他提议大型 AI 公司（OpenAI、Anthropic、xAI、Google、Meta 及中国主要公司）在模型正式发布前，提供 API 访问权限，让其他公司进行安全测试；若发现问题，开发者必须先修正；若拒绝修正，测试公司可公开声明该模型存在安全风险。

马斯克澄清「Dario is right」的说法是什么意思？

根据马斯克在 All-In Summit 的澄清，他表示「Dario is right」应该说得更完整；他真正认同的是 AI 风险已相当严重且 AI 安全必须提升，而非全面支持 Anthropic 的具体监管方案；他表示，当 Anthropic 和 OpenAI 的开发者都公开警告自己的模型危险时，外界应该认真对待这些信号。

为何马斯克特别强调中国必须被纳入 AI 安全制度？

根据马斯克的说法，若任何 AI 安全制度只限制美国公司而不包含中国，最终结果是美国削弱自己并把 AI 领先位置让给中国；他认为模型发布前互审比建立西方主导的监管机构更实际，因为这不需要中国接受美国监管机构直接进驻，可能成为美中之间少数有机会达成共识的 AI 安全措施。