Palo Alto 首席执行官 Arora：放缓 AI 发展不切实际，灭绝风险极低

派拓网络首席执行官 Nikesh Arora 在周二录制的 CNBC《The Tech Download》播客中表示，放缓人工智能开发“不切实际”，因为不同公司会采取不同做法。Anthropic 一名研究人员声称人工智能有 10% 的概率“杀死人类”，此后 Anthropic 首席执行官 Dario Amodei 呼吁放缓人工智能能力提升速度，OpenAI 首席执行官萨姆·阿尔特曼、SpaceX 首席执行官马斯克以及 Google DeepMind 主席 Demis Hassabis 也对此表示支持，Arora 的言论也加入了这场持续的行业争论。派拓网络首席执行官表示，灭绝威胁的概率“极低”，并称在人工智能系统中构建护栏和安全措施是行业的职责。

Arora 表示人工智能导致人类灭绝的概率极低

Arora 告诉 CNBC，“并非所有人都会放慢自己的步伐”，试图放缓人工智能开发是不切实际的。他最初在 X 上发帖称，要求放缓速度是“NINJA MOVE”，并向 CNBC 解释说，这是因为他认为人工智能公司试图“获得监管机构”和立法者的“同情”，从而在责任问题上获得“免责通行证”。

这位首席执行官表示，人工智能消灭人类“极不可能”具有“如外界所宣称的 10% 概率”。Arora 表示：“我认为这是一种较小的概率，而且极其微小。确保我们构建所需的护栏、安全性和安保措施，从而让这些模型用于正确的事情，是我们的职责。”

Arora 补充说，在实际执行层面，控制人工智能开发速度这一概念并不明确：“所以，从这个角度来看，其理念就是，如果你不相信自己的产品会安全，或者不愿意将其投入使用，那就不要发布产品，”他说，并指出企业将如何建立衡量人工智能开发速度的方式同样并不明确。

英伟达首席执行官黄仁勋和财政部长贝森特谈人工智能安全责任

英伟达首席执行官黄仁勋上周告诉 CNBC 的 Jim Cramer，目前不需要为了安全而制定新法规，模型开发者应确保其产品安全。黄仁勋表示：“我们应该创建产品并对其进行适当测试。如果它们还没有准备好发布，就先保留它，继续测试并持续进行工程开发，直到它准备就绪。”

美国财政部长贝森特周一告诉 CNBC，人工智能开发者“需要对自己负责”，而不是期待联邦政府为他们提供“责任保护”。

美国和中国讨论建立人工智能对话机制

贝森特周日表示，美国和中国讨论了建立“美中人工智能对话”，美国提议两国针对与该技术有关的国家安全事件建立通知机制。Amodei 的提议之一是围绕人工智能发展速度开展“全球协调”，并与中国进行一定程度的合作。

Arora 表示，由于美国政界人士和企业高管的看法不同，协调可能会很困难。Arora 告诉 CNBC：“我认为，第一步是让我们对自己究竟想要什么形成某种共识，然后再开始讨论如何与其他人协调这一点。”

常见问题

派拓网络首席执行官对放缓人工智能开发有何看法？

Nikesh Arora 在周二录制的 CNBC 播客中表示，放缓人工智能开发“不切实际”，因为并非所有人都会放慢自己的步伐，一些公司将继续在前沿领域进行开发。

Arora 为什么将人工智能放缓提议称为“NINJA MOVE”？

正如他向 CNBC 解释的那样，Arora 最初在 X 上发帖称，要求放缓速度是“NINJA MOVE”，因为他认为人工智能公司试图“获得监管机构”和立法者的“同情”，从而在责任问题上获得“免责通行证”。

美国和中国就人工智能安全讨论了什么？

财政部长贝森特周日表示，美国和中国讨论了建立“美中人工智能对话”，美国提议两国针对与人工智能技术有关的国家安全事件建立通知机制。