特朗普驳斥AI灭绝风险，OpenAI和Anthropic内部人士发出警告

美国总统唐纳德·特朗普周四驳回了人工智能可能对人类构成生存威胁的担忧，表示自己没有这种担忧。特朗普的言论是在前沿 AI 实验室 OpenAI 和 Anthropic 的研究人员公开警告该技术风险后发表的。总统强调，他的重点是保持美国在 AI 发展方面对中国的领先地位，并表示美国目前领先“相当一段时间，我会说是一年”。特朗普的言论与日益加剧的警报形成对比，许多 AI 安全研究人员已辞职或公开表达对 AI 快速发展的担忧。

当被问及是否担心 AI 会导致人类灭绝时，特朗普说：“不，我没有任何担忧。”他补充道：“我担心的是，如果我们不能赢得 AI 竞争，我们将处于非常糟糕的境地。”总统将中美 AI 竞争描述为一场争夺霸权的战斗。随着中国 AI 模型变得更加先进且在全球范围内的采用率不断提高，紧张局势也在加剧。

Anthropic 和 OpenAI 研究人员发出安全警告

Anthropic 研究员 Jacob Coxon 周二宣布，他因担心 Anthropic 和竞争对手 OpenAI 正在“拿我们的生命赌博”而辞去公司职务。Coxon 表示，那些构建 AI 的人认为，AI 可能会“在本十年结束前杀死我们所有人”。

OpenAI 负责对齐研究的研究员 Jasmine Wang 周三晚间写道：“很难夸大朝着相对强弱指数（RSI）加速发展的危险性。”相对强弱指数（RSI）在此指递归式自我改进，即 AI 模型获得提升自身性能的能力。

OpenAI 首席科学家 Jakub Pachocki 周六表示，他“强烈预计”AI 的进步速度可以持续到递归式自我改进阶段。Pachocki 补充道：“我担心没有人准备好应对机器智能持续快速增长所带来的后果。”

议员提出 AI 监管立法

7 月，众议员 Jay Obernolte（R-加利福尼亚州）和众议员 Lori Trahan（D-马萨诸塞州）宣布计划提出一项名为 FRONTIER Act 的法案，旨在建立治理先进 AI 模型部署的框架。众议员 Trahan 周三写道：“安全研究人员正在辞职，强大的 AI 模型正在逃出实验室，而各家公司仍在竞相超前发展。国会早该不再袖手旁观，履行自己的职责了。”

本月早些时候，参议员 Bernie Sanders（I-佛蒙特州）和众议员 Greg Casar（D-德克萨斯州）提出了一项名为 Ban Artificial Superintelligence Act 的法案，该法案将在联邦政府制定安全规则前，暂时暂停先进 AI 的开发。

常见问题

特朗普周四如何谈论 AI 导致人类灭绝的风险？
特朗普表示，他“不担心任何”AI 导致人类灭绝的问题。他强调了保持美国在 AI 领域对中国领先地位的重点，并表示美国目前领先约一年。

Jacob Coxon 为什么退出 Anthropic？
Coxon 周二宣布，他因担心该公司及其竞争对手 OpenAI 正在“拿我们的生命赌博”而退出 Anthropic。他表示，那些构建 AI 的人认为，AI 可能会“在本十年结束前杀死我们所有人”。

国会提出了哪些 AI 立法？
7 月，众议员 Obernolte 和众议员 Trahan 宣布提出 FRONTIER Act，旨在建立治理先进 AI 模型的框架。本月早些时候，参议员 Sanders 和众议员 Casar 提出了 Ban Artificial Superintelligence Act，旨在暂时暂停先进 AI 的开发，直到安全规则得到制定。