微软首席执行官：失控的人工智能不值得投入，对齐机制不应由少数实体掌控

微软首席执行官萨提亚·纳德拉于 9 月 14 日在 X 平台发文，主张追求“超级智能”的前提是必须能够帮助人类并受人类控制，否则就不值得投入；AI 对齐机制不应由少数实体掌控，而应在整个生态系统、各国和学界之间拥有广泛代表性；微软同日宣布将公布支撑其 MAI 模型的行为准则，供外界公开讨论。

纳德拉在 X 平台的声明：超级智能的前提条件与对齐机制的广泛代表性主张

纳德拉在 2026 年 9 月 14 日发布的 X 帖子中提出了以下核心立场：

超级智能的前提：追求超级智能的前提是 AI 必须能够帮助人类并受人类控制，否则就不值得投入。

效益扩散：AI 的效益应广泛惠及各国、社区和企业，而非集中于少数人。

开源与闭源并存：前沿生态系统需要让闭源模型与开源模型并存发展。

企业主权：企业应保有对自身知识的控制权，建立不依赖单一供应商的持续学习能力，并能将专有知识嵌入自己掌控的模型和权重中。

对齐机制的广泛代表性：AI 对齐机制不应由少数实体掌控，而应在整个生态系统、各国和学界之间拥有广泛代表性。

纳德拉表示，欢迎业界以深思熟虑的节奏推进对齐研究，支持“嵌入式评估者”（让独立第三方安全评估机构的人员常驻前沿 AI 实验室）等构想，并预告微软将在当天公布支撑 MAI 模型的行为准则，供外界公开讨论。

奥尔特曼的回应：联邦安全框架、OpenAI 的安全案例与业界自发行动

纳德拉发文后，奥尔特曼表示，外界有理由要求前沿 AI 公司展现负责任的态度；他欢迎建立统一的联邦安全框架和独立审计机制，但认为业界不必等到立法通过后才采取行动。奥尔特曼透露，OpenAI 已在开展可能大幅提升能力的前沿强化学习训练前建立安全案例，并呼吁其他公司提出各自的做法，共同建立有关对齐失效和监控的行业标准。

他表示，即使 AI 产业放慢脚步，进展仍将持续，但需要承担监控和安全案例等相应成本；国际协调虽然需要政府协助，但业界应先从自身做起。

AI 减速辩论中的多方角色：Coxon、Amodei、Musk 与特朗普的不同立场

本轮 AI 安全辩论由多个事件触发。Anthropic 前研究员 Jacob Coxon 上周发文批评 Anthropic 和 OpenAI 正拿人类生命冒险，追求能够自我改进的超级智能，并估计 AI 在未来十年内有可能导致人类灭绝；Dario Amodei 随后呼吁放慢 AI 模型的发展，建议让独立评估人员以类似员工的身份进驻 AI 实验室，检查安全措施；Elon Musk（xAI）和奥尔特曼也先后表态支持 Amodei 的立场；特朗普则表示不认同近期的 AI 末日论，认为这是负面势力蓄意炒作，并希望美国保持 AI 领域的领先地位。

“监管俘获”批评与开源 AI 的政策争议

外界出现质疑，认为 AI 巨头可能借主动要求监管的“监管俘获”策略，实际上建立起打压开源 AI 的机制。2026 年 7 月，黄仁勋首次入驻 X 平台，并透露 NVIDIA、微软、Meta 等 20 多家企业曾联合致信美国政策制定者，反对全面限制开源模型，主张开源有助于美国保持 AI 领先地位、强化网络安全并加速创新普及；他们同时认为，如果企业违法从闭源模型中不当提取信息，应通过法律和商业机制处理，避免采取全面限制技术的做法。

这一联署立场显示，AI 安全辩论的背后同时涉及对开源 AI 的政策取向，不同阵营在“安全管控”和“技术开放”之间的平衡上存在明显分歧。

常见问题

Satya Nadella 对 AI 对齐机制的核心主张是什么？

根据纳德拉于 2026 年 9 月 14 日在 X 平台发布的公开声明，他主张 AI 对齐机制不应由少数实体掌控，而应在整个生态系统、各国和学界之间拥有广泛代表性；他支持发展嵌入式评估者等机制，并预告微软将公布支撑 MAI 模型的行为准则，供外界公开讨论。

Sam Altman 对建立 AI 安全框架的立场是什么？

根据奥尔特曼公开发布的内容，他欢迎建立统一的联邦安全框架和独立审计机制，但认为业界不必等到立法通过后才采取行动；OpenAI 已在开展前沿强化学习训练前建立安全案例，他呼吁其他公司共同建立有关对齐失效和监控的行业标准。

本轮 AI 安全辩论中，哪些人支持放慢 AI 的发展，哪些人持不同意见？

根据文章，Anthropic 首席执行官 Amodei 主动呼吁放慢 AI 模型的发展，Musk 和奥尔特曼对此表示支持；纳德拉则主张以深思熟虑的节奏推进，并不主张统一放慢发展速度。特朗普不认同 AI 末日论；《环球时报》批评 Anthropic 的倡议包含针对中国的围堵意图。外界也出现“监管俘获”的质疑，认为 AI 巨头的安全倡议实际上可能是为了打压开源 AI。