英伟达(NVIDIA)发布了 Nemotron 3.5 Lightning,这是 Nemotron 3 系列的最新开源 AI 模型。该模型拥有 300 亿参数,采用混合专家(MoE)架构,专为大型多智能体系统中的特定任务打造,可在单个 GPU 上运行。据官方博客介绍,其智能体任务完成速度较同类模型提升 30%。
Nemotron 3.5 Lightning 的技术规格与已部署企业
根据 NVIDIA 官方博客,Nemotron 3.5 Lightning 的主要技术规格如下:
模型架构:300 亿参数混合专家(MoE)模型
设计目标:大型多智能体系统中的特定任务
硬件要求:可在单个 GPU 上运行(采用“轻量级”设计)
输出速度:最高可提升至 4 倍
任务完成速度:智能体任务完成速度较同类模型提升 30%
可用性:已在 Hugging Face 上发布,包含模型权重、数据和配方
NVIDIA 表示,CrowdStrike、Harvey 和 CodeRabbit 等公司已经测试并定制了该模型。企业可以使用 NVIDIA NeMo 工具,基于自身的领域数据、工具和工作流程对模型进行后训练,从而提高其在特定任务中的准确性。
NeMo Switchyard:用于智能路由的开源库
根据 NVIDIA 的说明,NeMo Switchyard 是一个用于在常用智能体工具中实现智能路由的开源库。部署后,它可以智能地将每个请求定向至最适合处理该任务的模型,无需开发人员重写应用程序。
NVIDIA 表示,企业可以利用 NeMo Switchyard 根据自身的具体需求创建路由器。
黄仁勋公开支持开源 AI 及行业背景
据报道,Nemotron 3.5 Lightning 的发布正值 CEO 黄仁勋公开表示支持开放权重模型之际。他称,开放权重模型对于美国保持 AI 领域的领导地位至关重要。
同日,Meta 也发布了开源的 Muse Glimmer AI 模型。此外,Meta、NVIDIA 等科技公司上个月联名发表公开信,警告美国不要限制外国开源 AI 模型。
常见问题
Nemotron 3.5 Lightning 是什么?
根据 NVIDIA 官方博客,Nemotron 3.5 Lightning 是一款拥有 300 亿参数的开源混合专家(MoE)模型,专为大型多智能体系统中的特定任务打造,可在单个 GPU 上运行,输出速度最高可提升至 4 倍,智能体任务完成速度较同类模型提升 30%。
Nemotron 3.5 Lightning 在哪里可以获取?
根据 NVIDIA 的说明,该模型已在 Hugging Face 上发布,包含模型权重、数据和配方。企业可以使用 NVIDIA NeMo 工具对模型进行后训练,以提高其在特定任务中的准确性。
NeMo Switchyard 的功能是什么?
根据 NVIDIA 的说明,NeMo Switchyard 是一个用于在常用智能体工具中实现智能路由的开源库。部署后,它可以自动将每个请求定向至最适合处理该任务的模型,无需开发人员重写应用程序。
免责声明:以上内容(如有图片或视频亦包括在内)均为平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。
本站尊重他人的知识产权、名誉权等法律法规所规定的合法权益!如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到qklwk88@163.com,本站相关工作人员将会进行核查处理回复