大卫·萨克斯(David Sacks)是白宫 AI 和加密货币政策负责人,被外界称为“crypto czar(加密沙皇)”。他于 7 月 19 日通过 X 批评美国 AI 模型的安全护栏,并以中国的 AI 模型 Kimi K3 作为例子。萨克斯表示,Kimi K3 已修复 15 个关键安全漏洞,而美国模型 Codex 和 Fable 因“网络护栏”拒绝处理。他认为,在不出问题的情况下,美国模型没有理由被限制在中国模型能胜任的任务上。此次批评凸显了关于 AI 安全限制的持续争论,因为网络安全专家此前在 6 月致特朗普的信中警告称,限制安全研究人员和防御性组织使用 AI 可能会削弱网络防御能力。
萨克斯称 Kimi K3 修复了被美国 AI 模型拦截的安全漏洞
在他 7 月 19 日的 X 动态中,萨克斯写道:“Kimi K3 刚刚修复了 Codex 和 Fable 因‘网络护栏’拒绝处理的 15 个关键安全漏洞。没有理由限制美国模型去完成中国模型处理起来毫无问题的任务。我们只是让自己变得不那么有竞争力。”
Codex 和 Fable 所适用的“网络护栏”是安全机制,旨在限制可能被用于恶意目的的请求,例如制造恶意软件或进行系统入侵。然而,批评者指出,这些限制也会限制安全漏洞分析和防御性研究,从而降低美国 AI 模型的实际效用。
Hugging Face 在美国模型护栏阻止分析后改用中国 GLM 5.2
萨克斯在后续动态中又给出了另一个例子:“Hugging Face 试图使用美国前沿模型来分析一次由 AI 驱动的网络攻击。但护栏阻止了包含真实可利用载荷的请求,因此他们改用在本地运行的 GLM 5.2。”
他表示“护栏实际上削弱了防御安全”,强调这些限制阻碍的是正当的安全研究,而不是增强了保护。
网络安全专家在 6 月提醒特朗普 AI 限制风险
根据 Axios 的说法,由前 Facebook 首席安全官 Alex Stamos 领导的网络安全专家在 6 月向特朗普发出公开信。信中警告称,“限制安全研究机构和防御性组织的 AI 利用机会,实际上可能削弱网络防御能力。”
专家们指出,最新的 AI 模型已经在数字资产行业中被广泛使用,以通过智能合约监控、漏洞分析、代码审查和渗透测试来提升安全水平。
FAQ
大卫·萨克斯在 7 月 19 日对中国 AI 模型 Kimi K3 说了什么?
大卫·萨克斯在 X 上表示,Kimi K3 修复了 15 个关键安全漏洞,而美国 AI 模型 Codex 和 Fable 因“网络护栏”拒绝处理。他认为,没有理由在不出问题的情况下限制美国模型去完成中国模型能胜任的任务,并声称美国正在让自己变得不那么有竞争力。
为什么 Hugging Face 从美国 AI 模型改用中国 GLM 5.2?
Hugging Face 曾尝试使用美国前沿 AI 模型来分析一次由 AI 驱动的网络攻击,但护栏阻止了包含真实可利用载荷的请求。结果,研究团队改为使用在本地运行的中国开源 AI 模型 GLM 5.2。
网络安全专家在 6 月对特朗普警告了什么?
由前 Facebook CSO Alex Stamos 领导的网络安全专家向特朗普发出公开信,警告称限制安全研究机构和防御性组织使用 AI 可能会削弱网络防御能力。他们指出,最新的 AI 模型正在数字资产行业中用于智能合约监控、漏洞分析、代码审查和渗透测试。
免责声明:以上内容(如有图片或视频亦包括在内)均为平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。
本站尊重他人的知识产权、名誉权等法律法规所规定的合法权益!如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到qklwk88@163.com,本站相关工作人员将会进行核查处理回复