OpenAI首席执行官萨姆·奥特曼指控竞争对手Anthropic使用“基于恐惧的营销”来推广其Claude Mythos AI模型,相关言论出自科技记者阿什莉·万斯(Ashlee Vance)主持的《Core Memory》播客。奥特曼表示,这种基于恐惧的说辞旨在为将先进AI系统维持在“少数人”手中提供理由;不过他也承认,部分安全担忧是合理的。
奥特曼的营销批评
奥特曼表示,尽管关于AI安全确实存在有效担忧,“但这显然是令人难以置信的营销,说:‘我们已经造出了炸弹。我们马上要把它扔到你头上。我们会以$100 百万的价格卖给你一个防爆掩体。你需要它来运行你所有的东西,但前提是我们把你选为客户。’”他还指出,“要在AI的新能力与这样一种信念之间取得平衡——即技术应该是可被获取的——并不总是容易。”
奥特曼承认“确实会存在合法的安全担忧”,但他认为基于恐惧的传播信息可能会被武器化,用来为集中化控制提供正当性。他表示:“如果你想要的是类似‘我们需要控制AI,只要我们,因为我们是值得信任的人’,我认为基于恐惧的营销大概是最有效的方式,用来为这种说法辩护。”
Claude Mythos的能力与分发
Anthropic的Claude Mythos模型上个月被揭晓,已引起研究人员、政府以及网络安全行业的重大关注。据测试,该模型能够自主识别软件漏洞并执行复杂的网络作战行动。在测试期间,Mythos在Mozilla的Firefox浏览器中识别出了数百个漏洞,并展示了进行多阶段网络攻击仿真的能力。
通过“Project Glasswing”(项目玻璃翼),Anthropic对该系统的访问进行了限制——这是一个有限的项目,允许包括Amazon、Apple和Microsoft在内的特定公司测试其能力。该公司也投入了大量资源来支持开源安全工作,理由是防御者在技术被更广泛地提供之前就应当从中受益。
安全叙事与政府回应
Anthropic将Mythos的能力定位为一种防御突破——能够更快地发现关键软件缺陷——同时也可能在被滥用时带来进攻风险。该模型还揭示了现有AI评估系统的局限性:Anthropic承认,许多当前的网络安全基准已不再足以衡量其最新系统的能力。
尽管美国政府部分机构呼吁因其在战争和监视中的潜在应用而停止使用该技术,但据报道,美国国家安全局已开始在绝密网络上测试该模型的预览版本。在预测市场Myriad上,用户给出Claude Mythos在6月30日前向更广泛公众发布的49%概率。
一组研究人员上周声称,他们能够使用公开可获得的模型复现Mythos的研究结果。
更广泛的AI发布叙事
奥特曼认为,随着高度危险的AI系统能力提升,围绕这类系统的说法可能会增加,但他也表示,并非所有此类主张都应当照单全收。他说:“关于那些危险到不应发布的模型,会有更多的叙事。当然也会有一些非常危险的模型,需要以不同方式发布。我确定Mythos对网络安全来说是个很棒的模型,但我认为我们对如何把这种能力带到世界上这件事有一个我们觉得不错的计划。”
奥特曼还否定了有关OpenAI正在削减其基础设施支出规模的建议,称该公司将继续扩大其计算能力。他指出:“我不知道这消息从哪来的……人们真的很想写‘撤回/收缩’的故事。但很快又会变成这样:‘OpenAI太鲁莽了。他们怎么能花这么夸张的一笔钱?’”
免责声明:以上内容(如有图片或视频亦包括在内)均为平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。
本站尊重他人的知识产权、名誉权等法律法规所规定的合法权益!如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到qklwk88@163.com,本站相关工作人员将会进行核查处理回复