Anthropic 首次公开募股申报文件揭示 AI 安全与基础设施风险

Anthropic 周一发布了首次公开募股招股说明书，披露了这家 AI 实验室面临的长达 90 多页的风险因素。文件详述了从可能对人类造成灾难性伤害，到目前与特朗普政府之间的紧张关系等挑战。招股说明书凸显了这家历史上资本最充足的初创公司之一所面临的运营不确定性，而该公司正准备上市。

Anthropic 在首次公开募股文件中列出灾难性 AI 风险

根据文件，Claude 的开发商面临的风险包括其模型可能造成伤害，其中包括可能对人类造成“灾难性或生存层面的风险”。公司表示，重视 AI 安全至关重要，因为若未能做到这一点，可能会对其“品牌、业务、财务状况和经营业绩”造成不利影响。激烈的竞争、市场压力和利益相关方的期望，使安全开发和部署基础模型尤具挑战性。Anthropic 承认，无法保证其 AI 安全工作足够充分，因为这项技术本身的复杂性，使得规划和预测每一种潜在情景都十分困难。

数据中心反对声浪席卷 16 个州

公众对数据中心的态度日渐负面，这给 Anthropic 带来了重大风险。该公司依靠不断扩大的计算设施组合来训练和维护其基础模型。据全国州议会会议称，16 个州的立法者正在考虑暂停令。文件称：“反对数据中心建设的行动也变得更有组织性，并在不同司法辖区之间更加协调；我们的公众形象可能会让与我们有关的项目尤其受到关注。”

电力基础设施限制威胁运营

Anthropic 未来的成功取决于其计算设施所需的电力基础设施。文件指出，全国乃至全球“电力供应不足”给 Anthropic 及其竞争对手带来风险。文件称，即使通过“现场天然气发电”让能源供应更加充足，随着需求增加，电力成本也可能上升。

儿童安全诉讼带来法律风险

OpenAI 和 Meta 等竞争对手曾因其 AI 模型和应用被指助长危害儿童的行为，而受到立法者和原告律师的审查。Meta 最近同意支付约 170 亿美元，与多个州的总检察长就涉及儿童心理健康和技术成瘾的诉讼达成和解。Anthropic 指出，自己也可能面临法律上的麻烦。根据其服务条款，未成年人不得使用 Claude 及相关产品。Anthropic 承认，随着其模型的应用日益普及，公司仍需做好对儿童的保护工作，包括保护未成年人和其他弱势用户，“尽管我们已努力限制此类访问”。

市场需求的不确定性影响增长前景

公司需要商业领域持续保持 AI 支出势头。文件称：“如果市场对我们的模型、平台和应用的接受速度低于预期或出现下滑，我们的增长可能放缓或停滞，业务、财务状况和经营业绩也可能受到不利影响。”招股说明书还将前沿模型需求减少列为一项风险，并指出客户可能认为低成本模型已足以满足需求，而且“前沿模型性能的增量提升不足以证明额外成本合理”，从而转而选择更便宜或开源的替代方案。

常见问题

Anthropic 在周一发布的首次公开募股文件中披露了哪些风险？
Anthropic 披露了 90 多页风险因素，包括其 AI 模型可能对人类造成灾难性或生存层面的风险、16 个州的立法者正在考虑暂停令、电力基础设施不足、可能面临儿童安全诉讼，以及可能拖慢增长的市场需求不确定性。

Meta 为解决儿童安全诉讼支付了多少？
据 Anthropic 的首次公开募股招股说明书称，Meta 最近同意支付约 170 亿美元，与多个州的总检察长就涉及儿童心理健康和技术成瘾的诉讼达成和解。

Anthropic 面临哪些电力基础设施挑战？
Anthropic 的文件指出，全国乃至全球“电力供应不足”给其运营带来风险；即使通过现场天然气发电让能源供应更加充足，随着需求增加，电力成本也可能上升。