Anthropic 执行长:AI 模型应强制审计,政府可封锁高风险部署

AI模型強制審計

Anthropic 执行长 Dario Amodei 于 6 月 11 日发布政策长文《Policy on the AI Exponential》,首次以公司最高领导人身份公开呼吁政府介入,对前沿 AI 模型制定规范。Amodei 称 Claude Mythos Preview 已能找出高严重度漏洞,作为立法依据。

三大政策主张:确认的量化标准与法律框架

主张一:强制第三方测试

量化门槛(三项任一触发):训练算力超过 10^25 FLOPs,或年 AI 营收超过 5 亿美元,或 AI 研发支出超过 10 亿美元。符合门槛的公司旗下模型在上市前须通过独立审计,测试聚焦四个风险领域:网络安全、生物武器、AI 系统失控、可加速前述风险的自动化研发。Amodei 原文确认,政府在此框架下获得法律授权,可封锁、延迟或劝阻模型部署。

主张二:AI 定位为网络安全关键基础设施

要求前沿开发商保护「模型权重」不被外部攻击者或内部人员窃取,并建立通报「模型蒸馏攻击」的法定管道。Amodei 引用 Claude Mythos Preview 能主动发现主要作业系统高严重度漏洞,作为此主张的技术依据。

主张三:正面承认结构性劳动替代

框架明文指出,若 AI 达到预测中的能力水准,将是「劳动力的全面替代品」而非生产力辅助工具。框架推演了失业率 5%、10% 及更极端情境,并倡议工资保险、全民基本收入(UBI)、主权财富模式等对应机制。

Anthropic 确认的 3.5 亿美元政策投入

Anthropic 于同日宣布的财务承诺

2 亿美元:成立「经济未来研究基金(Economic Future Research Fund)」,用于试点公共政策

1.5 亿美元:办理全国奖助计划

Amodei 在长文结尾表示:「关键挑战不是激励成长,而是找到让每个人都能分享利益的方法。」他在文中确认,此框架「是起点,而非终点」。

与川普政府的已确认立场对比

川普政府确认立场:让 AI 产业「野蛮生长」,以正面竞争击败中国,并主动推平各州的地方性监管壁垒。

Amodei 确认立场:在长文结尾寻找跨党派语言表述:「这些政策构想在政治光谱上都有跨党派的常识性吸引力,我们愈早行动,每个人就能愈早分享 AI 的好处。」Amodei 在长文中确认,过去 Anthropic 曾主张「透明度要求就够了」,此份政策倡议代表立场的正式更新。

常见问题

Anthropic 提出的强制测试量化门槛具体是什么?

《Policy on the AI Exponential》长文确认三个触发门槛,任一符合即须在上市前完成强制独立审计:训练算力超过 10^25 FLOPs、年 AI 营收超过 5 亿美元,或 AI 研发支出超过 10 亿美元。测试聚焦网络安全、生物武器、AI 系统失控及自动化研发四个风险领域。

为何 Anthropic 选择在发布最强模型当天同步呼吁立法管制?

Amodei 的确认逻辑是:Claude Mythos Preview 已能在主要作业系统中找出高严重度漏洞,证明 AI 的风险轮廓已「足够清晰到能精精准监管」,此前「不够清晰」的立法推迟理由不再成立。

此政策倡议目前是否已进入美国立法程序?

截至 2026 年 6 月 11 日,《Policy on the AI Exponential》属政策倡议文件,尚未进入任何美国国会的正式立法程序。Amodei 在文中确认,框架「是起点,而非终点」,未公布任何立法提案或具体推进时间表。

免责声明:以上内容(如有图片或视频亦包括在内)均为平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。

本站尊重他人的知识产权、名誉权等法律法规所规定的合法权益!如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到qklwk88@163.com,本站相关工作人员将会进行核查处理回复

(0)
上一篇 2026年6月11日 下午12:52
多米多羅“书评”触动社会神经,台湾加密诈骗损失超 700 亿
下一篇 2026年6月11日 下午1:07

相关推荐

风险提示:理性看待区块链,提高风险意识!