腾讯于 11 月 18 日发布 Hy4 Flash 的可下载权重,提供三个版本。此前 Pandaily 已验证 Hugging Face 三个官方代码库的权重索引文件,确认下载可用性。授权方面,三个版本均采用腾讯 Hy License 1.0;在月活跃用户超过 1 亿的产品或服务中使用,均需另行取得书面授权。
腾讯发布三个版本 Hy4 Flash 可下载权重,标准版约 440.5 GB
据 IT 之家报道,此次发布的三个版本如下:
Hy4 flash(指令优化模型):标准可部署版本,索引记录约 440.5 GB 张量数据
Hy4 flash-FP8(量化指令优化版本):索引约 287.1 GB,量化可减少存储空间,但不会让模型变成小型消费级设备模型
Hy4 flash-base(预训练基础模型):用于进一步训练,不能与可用于聊天应用的版本互换
据 Pandaily 验证,三个 Hugging Face 官方代码库的权重索引文件均存在,匿名字节范围请求返回了每个变体的权重文件数据;请注意,这些验证确认了下载可用性,并非完整的检查点下载或成功的推理测试,且已发布的内存提示均为估算值。
部署文件提供专用 vLLM 和 SGLang 容器镜像,初始配置 8192 token 上下文
根据腾讯提供的部署文件,Hy4 Flash 的部署支持包括专用的 vLLM 和 SGLang 容器镜像,以及使用八路张量并行的示例;Transformers 文件指向一个模型支持 pull request,而非假设现有普通软件包已支持此架构。vLLM 配方需要主机内存,因为默认情况下 Engram 表会被卸载到 CPU 内存;初始配置使用 8,192 个 token 的上下文。
据报道,模型宣称上下文容量为 100 万 token,但这并不保证所有硬件配置都能达到此容量要求;已发布的内存提示均为估算值,并非实际测量的最低要求。
腾讯 Hy License 1.0 非 Apache 2.0,月活跃用户逾 1 亿
根据授权文件,三个版本均采用腾讯 Hy License 1.0,该授权明确声明并非 Apache 2.0(尽管源自 Apache 2.0)。第 10 条设定商业授权触发条件:连续 12 个月全球累计收入超过 5,000 万美元的模型即服务提供商,以及在月活跃用户超过 1 亿的产品或服务中使用,均必须另行购买书面授权;若模型及其输出不提供给第三方,则适用一项定义明确的内部使用例外。
据报道,此次发布最好描述为“在腾讯既定条件下的开放重量级版本”,而非完全不受限制的开源版本;更大尺寸的 Hy4 型号的权重版本仍在准备中。
常见问题
腾讯 Hy4 Flash 的三个可下载版本名称,以及各版本的用途与磁盘空间大小为何?
据 IT 之家及 Pandaily 报道,三个版本分别为:Hy4 flash(指令优化模型,约 440.5 GB)、Hy4 flash-FP8(量化指令优化版本,约 287.1 GB),以及 Hy4 flash-base(预训练基础模型,用于进一步训练,不可与聊天应用版本互换)。上述大小为权重数据大小,并非最低 GPU 内存要求。
腾讯 Hy4 Flash 的部署支持工具,以及 100 万 token 上下文容量的实际限制为何?
根据部署文件,提供专用 vLLM 和 SGLang 容器镜像,支持八路张量并行;初始配置使用 8,192 个 token 上下文。模型宣称容量为 100 万 token,但不保证所有硬件配置均可达到此容量;vLLM 配方需要主机内存,所有已发布的内存提示均为估算值。
腾讯 Hy License 1.0 与 Apache 2.0 的主要差异,以及商业部署触发书面授权的具体门槛为何?
根据授权文件,Hy License 1.0 明确声明并非 Apache 2.0;商业门槛触发条件为:连续 12 个月全球累计收入超过 5,000 万美元的模型即服务提供商,或在月活跃用户超过 1 亿的产品或服务中使用,均需另行取得书面授权;不向第三方提供模型及其输出的内部使用则符合例外条款。
免责声明:以上内容(如有图片或视频亦包括在内)均为平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。
本站尊重他人的知识产权、名誉权等法律法规所规定的合法权益!如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到qklwk88@163.com,本站相关工作人员将会进行核查处理回复