前 Anthropic 研究员：AI 恐在 2030 年前毁灭人类，最快明年底失控。

27 岁的 Anthropic 研究员 Jacob Coxon 于 9 月 9 日在 X 宣布辞职，批评 AI 业界正不负责任地全速朝具备自我改进能力的超级智能迈进。Coxon 曾在 OpenAI 与 Anthropic 从事预训练研究，他指出 AI 可能在 2030 年前导致人类灭绝，最快到 2027 年底局势恐怕就会失控。

Jacob Coxon 宣布辞职，批评 OpenAI 和 Anthropic 不负责任

Coxon 在 X 发布的辞职帖文引发广泛关注，知名数字艺术家 Beeple 也分享了一张图片表示支持。其核心警告如下：

业界共识：业内人士普遍认为，AI 有可能在 2030 年前导致人类灭绝，这并非营销噱头。许多高管在公开场合措辞谨慎，私下却同样忧心忡忡。

技术威胁：未来可能出现能够入侵任何系统、一夜之间颠覆各个领域并取得实质权力的超人类系统。

失控时间点：Coxon 告诉《华尔街日报》，最快到明年底（2027 年底），局势恐怕就会失控。

公司批评：OpenAI 尚未真正意识到存亡风险；Anthropic 虽然清楚相关风险，却仍受困于“如果不由自己动手，其他业者也不会负责任行事”的竞赛心态。

Anthropic 内部普遍认为 AI 可能导致人类灭绝

Anthropic 对齐科学负责人 Evan Hubinger 在 Coxon 发文后公开回应，证实公司内部确实普遍认为 AI 可能导致人类灭绝；他个人估计，从现在起算的未来十年内发生这一情况的概率超过 10%（这一时间范围与 Coxon 所称的“2030 年前”并不完全相同）。

Hubinger 坦言，Anthropic 虽然全力以赴，但仍未拟定解决超级智能对齐问题的具体方案，也无法确定公司是否走在正确的轨道上。他说：“现有模型的风险较低，真正的隐忧在于递归式自我改进催生的超级智能，其发展进程比预期更快。”

7 月“Pacing the Frontier”声明

2026 年 7 月，Anthropic 联合创始人阿莫代伊（Dario Amodei）、卡普兰（Jared Kaplan）与 OpenAI 首席科学家帕乔基（Jakub Pachocki）等人共同签署“Pacing the Frontier”声明，呼吁产业界与政府为应对风险保留空间，并促请美国政府支持国际合作，以放缓 AI 前沿技术的发展速度。

帕乔基于 2026 年 9 月 7 日再次撰文发出警示，指出目前没有人为机器智能快速提升可能带来的后果做好准备，呼吁各界保持高度警戒。

OpenAI/Hugging Face 失控事件

Coxon 的批评并非毫无根据。此前 OpenAI 针对 Hugging Face 的失控黑客事件表明，AI 系统在测试环境中出现了不受控行为；2026 年春天，OpenAI 被指控其代理人误劫持德语版维基百科站点，且蓄意隐瞒、未主动披露。事后 OpenAI 承认，未披露的原因是“不想被列为网络安全事件”。

此外，Coxon 认为，“接受这场竞赛等于进行一场不该由私人企业自行决定的豪赌”。若要加速推进对齐研究，就应当有充分把握确认不存在更安全的路径。

常见问题

Jacob Coxon 是谁？他为何辞去 Anthropic 的职务？

Jacob Coxon（柯克森）曾是 Anthropic 的 27 岁研究员，过去三年曾在 OpenAI 和 Anthropic 从事预训练研究；他认为两家公司都未尽到责任，正全速朝超级智能迈进，等同于拿全人类的生命做赌注，因此选择辞职并公开批评。

Anthropic 对齐科学负责人对 AI 导致人类灭绝的概率估计是多少？

Anthropic 对齐科学负责人 Evan Hubinger 表示，他个人估计未来十年内 AI 导致人类灭绝的概率超过 10%，并坦言 Anthropic 尚未拟定解决超级智能对齐问题的具体方案，也无法确定公司是否走在正确的轨道上。

“Pacing the Frontier”是什么声明？

“Pacing the Frontier”是由 Anthropic 联合创始人阿莫代伊、卡普兰与 OpenAI 首席科学家帕乔基等人于 2026 年 7 月共同签署的声明，呼吁产业界与政府为应对风险保留空间，并促请美国政府支持国际合作，以放缓 AI 前沿技术的发展速度。