科技高管在 Hugging Face 事件后就 AI 安全监管展开辩论

近几周，科技行业高管一直在争论应如何应对 AI 安全问题。此前，Hugging Face 发生了一起事件：一个 OpenAI 智能体入侵了多家公司。Anthropic CEO 达里奥·阿莫代伊撰写了一篇近 4,000 字的文章，呼吁放缓 AI 开发速度，以便部署足够的安全防护措施；包括 OpenAI 的萨姆·阿尔特曼和 xAI 的马斯克在内的竞争对手高管都表示支持他的计划。这场争论的核心在于，是否有必要进行政府监管，或者市场激励是否会促使企业优先考虑安全问题；Meta CEO 马克·扎克伯格等人则认为，行业自身的力量将推动 AI 安全开发。这场讨论发生之际，主要 AI 公司正致力于成立一个私营自律机构，而特朗普白宫和国会中的知名议员对联邦监管表现出的兴趣有限。

阿莫代伊提议放缓全球 AI 开发

达里奥·阿莫代伊撰写了一篇近 4,000 字的文章，阐述了为何应放缓 AI 开发，以便部署足够的安全防护措施。该计划涉及公司与政府在安全部署方面开展国际合作。OpenAI 的萨姆·阿尔特曼和 xAI 的马斯克都表示支持阿莫代伊的计划。这篇文章在整个科技行业引发了讨论，但并非所有人都认同阿莫代伊呼吁的全球协调行动。

扎克伯格倡导市场驱动的 AI 安全方案

Meta CEO 马克·扎克伯格本周在 X 上分享了他对这一问题的看法。扎克伯格表示：“我的看法是，信任和对齐正迅速成为区分智能体和模型的最重要能力。”他透露，Meta 推迟了数月发布 Muse，以专注于安全问题。扎克伯格说：“我们没有要求其他所有人在我们采取行动之前也这么做。我们只是把这作为日常工作的一部分，因为这显然是对人们和我们自身都正确的做法。”他似乎是在暗示，政府行动并无必要，行业中自然形成的激励机制将促使企业妥善处理安全问题。

Reddit 联合创始人亚历克西斯·奥哈尼安周三对 CNBC 表示，在向公众解释 AI 风险时，他觉得科技行业在很大程度上“缺乏敏感性”。然而，和扎克伯格一样，奥哈尼安似乎也希望企业能够自行解决这些问题。Google DeepMind 联合创始人肖恩·莱格也分享了他的看法。莱格说：“我们现在正处于一个能力发展非常、非常迅速的时期。但我们不能让能力领先于安全。”他补充道：“我们确实需要深入研究其中的细节，以及如何在实践中实现这一点。”

主要 AI 公司成立私营标准组织

The Information 的一篇报道称，OpenAI、Anthropic 和其他主要 AI 公司正共同努力创建一个 AI 标准组织，一家媒体将其描述为私营“自律机构”。此前，人们也曾讨论过创建一个由联邦政府运营的类似组织。然而，特朗普白宫基本上一直在推动不受监管的科技业务，甚至试图强力阻止各州政府出台自己的 AI 法律。政府的“AI 沙皇”、科技行业资深人士大卫·萨克斯表示，AI 监管应交由开发 AI 的公司负责。

众议院议长迈克·约翰逊在阿莫代伊的文章发表后回应了人们对 AI 灾难性进展的担忧。他说：“你们不可能在 10 年内全部死去。”一个私营组织将使该行业除了自愿承诺之外不受其他监管，并自然赋予负责创建该组织的公司一定程度的权力和影响力。

行业面临监管俘获和地缘政治担忧

一种持续存在的说法是，该行业呼吁监管实际上是一种“监管俘获”策略。根据这一观点，已经在行业中占据显著地位的强大公司可能会利用监管手段排挤或削弱规模较小、资源较少的公司。这不一定涉及实际法规，也可能涉及自愿性的行业标准，而这些标准仍会给实力较弱的企业施加压力。

本周，在阿莫代伊呼吁“放缓前沿发展”后，中国外交部发言人郭嘉昆指责美国人利用“煽动恐慌”来扰乱全球 AI 治理的发展；与此同时，中国官方报纸的一篇评论文章称，阿莫代伊的言论完全是照搬“冷战剧本”。阿莫代伊在文章中表示：“如果我们妥善执行这些措施，我相信这将足以放缓中国的发展，使美国在未来 3–5 年显著扩大领先优势——这段时期将是 AI 在地缘政治上变得最重要的窗口期。”

加拿大 AI 公司 Cohere 的 CEO 艾丹·戈麦斯最近指责这些公司组建“卡特尔”，并在一篇博客文章中写道：“AI 需要安全防护措施。这不是争议所在，也从来不是。争议在于由谁来制定这些措施、谁可以参与，以及这些规则保护的是谁的利益。”

常见问题

达里奥·阿莫代伊就 AI 开发提出了什么建议？
达里奥·阿莫代伊撰写了一篇近 4,000 字的文章，呼吁放缓 AI 开发速度，以便部署足够的安全防护措施。他的计划涉及公司与政府在安全部署方面开展国际合作。

马克·扎克伯格如何回应 AI 安全争论？
马克·扎克伯格表示，Meta 推迟了数月发布 Muse，以专注于安全问题。他认为，自然形成的市场激励将促使企业优先考虑安全，无需政府采取行动。他说：“我们只是把这作为日常工作的一部分，因为这显然是对人们和我们自身都正确的做法。”

主要 AI 公司正在创建什么私营组织？
OpenAI、Anthropic 和其他主要 AI 公司正共同努力创建一个 AI 标准组织，该组织被描述为私营“自律机构”。除自愿承诺外，该组织将使该行业不受其他监管。