OpenAI 和 Broadcom 推出 Jalapeño,首款用于 LLM 推理的定制 AI 芯片

OpenAI 和 Broadcom 今日发布了 Jalapeño,这是 OpenAI 首款专为大语言模型推理设计的智能处理器。Broadcom 总裁兼首席执行官 Hock Tan 和总裁 Charlie Kawwas 将芯片交付给 OpenAI 首席执行官 Sam Altman 和总裁 Greg Brockman。该加速器是两家公司共同构建的多代计算平台中的首款 AI 芯片,旨在让先进 AI 更快、更可靠、更易获取。OpenAI 基于对 LLM 基本原理的理解从头设计了芯片,Broadcom 和 Celestica 通过芯片实现、板卡与机架系统集成、高性能网络及可扩展生产系统,帮助将平台推向工业化。

OpenAI 和 Broadcom 向公司领导交付 Jalapeño 芯片

此次芯片交付标志着 OpenAI 构建其模型与产品背后的完整技术栈的战略迈出重要一步。Jalapeño 由 OpenAI、Broadcom 和 Celestica 协作开发,各方为该平台贡献了各自专长。

OpenAI 基于其模型、内核、服务系统及产品需求的路线图,设计了芯片架构。Broadcom 贡献了芯片实现和网络技术(包括 Tomahawk 硅片),将平台推向大规模生产。Celestica 提供了板卡、机架系统集成及可扩展生产系统方面的专业知识。

Jalapeño 架构针对 LLM 推理工作负载优化

Jalapeño 设计灵活,可服务于所有 LLM,其设计基于 OpenAI 对当前及未来跨行业 AI 模型推理需求的深刻洞察。工程样本已在实验室中以目标生产频率和功耗运行 ML 工作负载,包括 GPT-5.3-Codex-Spark。

早期测试表明,Jalapeño 的性能功耗比将显著优于当前最先进水平。该架构减少了数据移动,并平衡了计算、内存和网络资源,使实际利用率更接近理论峰值性能。详细技术报告将在未来几个月内发布。

「Jalapeño 是基于我们与 OpenAI 研究人员密切合作获得的详细洞察,从零开始为 LLM 推理设计的,」OpenAI 硬件项目负责人 Richard Ho 表示。「我们围绕最前沿 AI 模型所需的内核、内存移动、网络和服务模式,优化了架构。基于早期测试,Jalapeño 将高效执行我们最重要的工作负载,接近硬件的理论极限。」

该芯片是为现代 LLM 推理进行的白板设计,而非从早期 AI 工作负载改造而来的通用加速器。其设计基于 OpenAI 每天在 ChatGPT、Codex、API 以及未来智能体产品中运行的系统。目标是将当今领先 AI 加速器的能力和吞吐量,与最快专用推理系统的延迟相结合。

九个月内完成开发,采用 AI 辅助设计

Jalapeño 从初始设计到制造流片仅用时九个月。两家公司认为,这代表了高性能先进半导体领域有史以来最快的 ASIC 开发周期。

这一加速的时间表得益于 OpenAI 工程团队的软硬件深度协同开发、Broadcom 的硅实现专业知识,以及使用 OpenAI 模型加速部分设计和优化过程。服务于用户的同一模型也正助力改进运行未来模型所需的基础设施。

与 Broadcom 和 Celestica 规划多代计算平台

Jalapeño 是多代计算平台的第一步,该平台结合了 OpenAI 设计的加速器、Broadcom 的硅实现、网络和连接技术,以及 Celestica 的板卡、机架和系统专长。

「世界正向计算驱动的经济转型,」OpenAI 总裁兼联合创始人 Greg Brockman 表示。「Jalapeño 是我们长期全栈基础设施战略的一部分,旨在让计算更加充裕,从而使 AI 更快、更可靠、对个人和企业更实惠,并可用于解决更重要的难题。通过自行设计更多栈层,我们可以以更高效率提供更多智能,并持续推动先进 AI 走向更广泛的普及。」

计划于 2026 年底前部署

该多代计算平台计划于 2026 年底前进行初始部署,并在未来几年内持续扩展。OpenAI 运营全栈,包括芯片架构、内核、内存系统、网络、调度、部署系统和产品体验,每一层都围绕让模型更快、更可靠、更实惠来优化。

常见问题

什么是 Jalapeño?何时发布的?

Jalapeño 是 OpenAI 首款智能处理器,一款专为大语言模型推理设计的 AI 加速器。OpenAI 和 Broadcom 今日发布了该芯片。

Jalapeño 的开发耗时多久?

Jalapeño 从初始设计到制造流片共耗时九个月。两家公司认为,这代表了高性能先进半导体领域有史以来最快的 ASIC 开发周期。

Jalapeño 何时部署?

搭载 Jalapeño 的多代计算平台计划于 2026 年底前进行初始部署,并计划在未来几年内扩展。

免责声明:以上内容(如有图片或视频亦包括在内)均为平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。

本站尊重他人的知识产权、名誉权等法律法规所规定的合法权益!如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到qklwk88@163.com,本站相关工作人员将会进行核查处理回复

(0)
上一篇 2026年6月25日 下午12:38
下一篇 2026年6月25日 下午12:43

相关推荐

风险提示:理性看待区块链,提高风险意识!