四家中国 AI 公司的模型显现出英伟达 Blackwell 的“硬件指纹”

前 OpenAI 研究员 Will DePue 周五（13日）发表了一项关于六款 AI 模型的研究，称这些模型带有英伟达 Blackwell“硬件指纹”。研究称，DeepSeek、Moonshot AI、MiniMax 和蚂蚁集团模型的开放权重中保留了所用硬件的痕迹，因为 GPU 架构和随机种子会影响模型初始化时的参数值，而其中一些特征在训练后仍可识别。这些发现加剧了围绕美国对华先进 AI 芯片出口管制的争论，不过芯片的实际位置以及这些公司如何获得算力仍未有定论。

硬件指纹将六款模型与 Blackwell 系统联系起来

DePue 将硬件指纹描述为：AI 模型在开始训练前为大量参数设定初始数值时留下的痕迹。他表示，GPU 架构和随机种子都会影响这些数值的排列方式，而训练完成后，公开权重中仍可能识别出其中一些特征。

DePue 指出，六款模型带有与 Blackwell 匹配的指纹：DeepSeek 的 DeepSeek-V4-Flash 和 DeepSeek-V4-Pro，Moonshot AI 的 Kimi K3 和 Kimi K3.1-Pro，MiniMax 的 MiniMax-M3，以及蚂蚁集团的 Ling-3.1-flash。其中四款模型与英伟达 GB200 和 GB300 系统的硬件特征相符，另外两款则与 B200 和 B300 芯片相符。

DePue 使用芯片配置和随机种子复现权重

DePue 表示，他比较了超过 6 万亿种芯片配置和随机种子的组合。他报告称，DePue 在一块实体 B300 芯片上逐位复现了 DeepSeek-V4-Flash 的初始权重；他还在一套租用的 GB200 系统上复现了 Kimi K3 的部分权重值，相关系数为 0.999995。

为验证这些匹配结果，DePue 将推断出的随机种子输入未经修改的 PyTorch 程序。他表示，改用英伟达上一代 Hopper 架构 H100 无法复现 DeepSeek-V4-Flash 的结果，而随机种子中的一个数字发生变化就会导致匹配消失。他还用 24 款开发者已公开披露所用硬件的开放权重模型测试了该方法，所有结果都与披露信息一致。

DePue 表示，在超过 6 万亿种组合中，纯粹偶然出现的最佳匹配理论上约为 8 个标准差。他的对比中，主要匹配结果介于 49 至 1,385 个标准差之间。他还表示，OpenAI 和 Anthropic 的资深研究人员分别独立验证了这些结果，但未透露具体人员姓名。

估算的 GPU 规模和集群价值

DePue 估计，Kimi K3 和 DeepSeek-V4-Pro 各自可能使用了约 2,000 至 3,000 块 Blackwell GPU。根据硬件采购成本，他估算同等规模集群的价值约为 1.5 亿至 2 亿美元，并估计这些公司可能使用的 GPU 总价值超过 5 亿美元，不包括实验性算力。实际使用的芯片数量和公司的支出仍有待核实。

DePue 还提醒，即使初始权重与 Blackwell 硬件相匹配，仅凭这些数值也无法确定芯片是否进入中国，或这些公司是否租用了离岸数据中心的算力。

官员作出回应，芯片所在地问题仍未解决

白宫科技顾问 Michael Kratsios 此前曾表示，Moonshot AI 可能在泰国为 Kimi K3 获取了 GB300 算力。美国参议员 Elizabeth Warren 和 Chris Coons 于 11 日要求特朗普政府保留与英伟达芯片出口有关的记录。

SemiAnalysis 估计超过 1.5 吉瓦的英伟达硬件流入中国

半导体研究公司 SemiAnalysis 从供应端给出了另一项估算。该公司追踪 AI 加速器的生产和分销，并估计，近年来流入中国、受美国出口限制约束的英伟达硬件，其额定功耗合计超过 1.5 吉瓦（GW）。按每块 B200 GPU 的功耗为 1,000 瓦换算，相当于约 150 万块 GPU。

SemiAnalysis 表示，该公司没有公布芯片的实际数量或各代芯片所占比例。其估算不包括英伟达的 H20 和 H800，这两款芯片是英伟达当时为遵守出口规定而开发的。一名 SemiAnalysis 分析师认为，涉嫌违反出口规定的先进芯片运输可能是英伟达联合创始人黄仁勋离职的背景因素之一。该分析师还指出，黄仁勋长期反对扩大对华芯片限制，而一项旨在通过海外云服务限制中国公司获取先进算力的国会提案，可能会在他离职后更容易推进。报告没有提供直接证据证明美国情报机构影响了英伟达董事会的决策，也没有证明黄仁勋本人参与了非法出口。

SemiAnalysis 还警告称，全面封锁可能加速中国公司转向国产芯片，并削弱同样有利于美国企业的开源软件合作。分析师提出，美国可以限制中国公司可获得的芯片数量和算力，并允许它们在美国监管下向可信的海外服务商租用算力。该公司认为，这样既能保留美国监控访问权限并在必要时切断访问的能力，又能为美国芯片制造商和云服务商保留部分收入。

Blackwell 硬件指纹的关键发现与估算

六款模型带有与 Blackwell 匹配的硬件指纹：DeepSeek-V4-Flash、DeepSeek-V4-Pro、Kimi K3、Kimi K3.1-Pro、MiniMax-M3 和 Ling-3.1-flash。
四款模型与英伟达 GB200 和 GB300 系统的特征相符，另两款与 B200 和 B300 芯片的特征相符。
一块实体 B300 逐位复现了 DeepSeek-V4-Flash 的初始权重。
一套租用的 GB200 复现了 Kimi K3 的部分权重值，相关系数为 0.999995。
改用 Hopper 架构 H100 无法复现 DeepSeek-V4-Flash 的结果。
该方法在 24 款已公开披露所用硬件的开放权重模型上进行了测试，所有结果均与披露信息相符。
在超过 6 万亿种组合中，纯粹偶然出现的最佳匹配预计约为 8 个标准差；主要匹配结果介于 49 至 1,385 个标准差之间。
据 DePue 估计，Kimi K3 和 DeepSeek-V4-Pro 各自可能使用了约 2,000 至 3,000 块 Blackwell GPU。
同等规模集群的估值约为 1.5 亿至 2 亿美元，GPU 总价值可能超过 5 亿美元，不包括实验性算力。
SemiAnalysis 估计，额定功耗合计超过 1.5 吉瓦的英伟达硬件流入中国；按每块 B200 GPU 功耗为 1,000 瓦计算，相当于约 150 万块 GPU。
参议员 Elizabeth Warren 和 Chris Coons 于 11 日要求特朗普政府保留英伟达芯片出口记录。

常见问题

研究称，哪些 AI 模型带有英伟达 Blackwell 硬件指纹？

DePue 指出了六款模型：DeepSeek 的 DeepSeek-V4-Flash 和 DeepSeek-V4-Pro，Moonshot AI 的 Kimi K3 和 Kimi K3.1-Pro，MiniMax 的 MiniMax-M3，以及蚂蚁集团的 Ling-3.1-flash。其中四款模型与 GB200 和 GB300 系统的特征相符，另外两款与 B200 和 B300 芯片的特征相符。

DePue 如何验证这些硬件匹配结果？

DePue 将推断出的随机种子输入未经修改的 PyTorch 程序。他在一块实体 B300 芯片上逐位复现了 DeepSeek-V4-Flash 的初始权重，而在一套租用的 GB200 系统上复现了 Kimi K3 的部分权重值，相关系数为 0.999995。使用 Hopper 架构 H100 未能复现 DeepSeek-V4-Flash 的结果，而随机种子中的一个数字发生变化则会导致匹配消失。