美安全机构用Anthropic安全模型Mythos扫描政府代码,查出大量漏洞

据动察 Beating 监测,美国网络安全和基础设施安全局(CISA)正在使用 Anthropic 的漏洞审计模型 Mythos 审计政府软件,重点扫描政府代码仓库中可能被外国间谍或网络黑客利用的安全漏洞。扫描工作由 CISA 内部负责数字安全评估和黑客演练的「攻击面评估团队」执行。知情人士透露,审计已经发现了大量漏洞。这暴露了美国政府在人工智能安全监管与国家安全实用主义之间的撕裂。由于 Anthropic 曾拒绝移除防止模型被用于自主武器或国内监视的安全护栏,五角大楼曾在今年 2 月将其列入「供应链风险」黑名单,后于 3 月被法官阻止。随着 Anthropic 定向发布了在寻找和利用网络漏洞方面极其优秀的 Mythos 模型,双方的紧张关系有所缓解。除 CISA 外,美国国家安全局(NSA)早在今年 4 月就已经在机密环境中部署并测试了这款模型。而就在上个月,Anthropic 尝试推出包含安全防护的公开版本 Fable。白宫突然介入并要求禁止外国人访问该模型,从而触发了全球停用事件,直到上周才重新解禁。

上一篇:

下一篇:

风险提示:理性看待区块链,提高风险意识!