在公开测试中，Jalapeño 在响应速度和每瓦特 AI 工作量方面领先于 Nvidia GB300。

这款 700 瓦处理器针对的是 AI 推理，而非模型训练。

OpenAI 计划在今年部署该芯片，同时开发第二代和第三代产品。

OpenAI 计划到 2026 年底在其 AI 基础设施中部署 OpenAI Jalapeño 芯片。在公开测试中，该推理处理器在每瓦特工作量和响应速度方面领先于 Nvidia 的 GB300。OpenAI 芯片负责人 Richard Ho 表示，该设计结合了高吞吐量和低延迟。这些结果适用于推理，而非模型训练。

OpenAI Jalapeño 芯片在两项推理测试中领先 GB300

OpenAI Jalapeño 芯片的功耗为 700 瓦。这一功率水平可以降低数据中心的电力、冷却和配电成本。Ho 表示，该处理器可以更便宜地服务更多用户，同时为对延迟敏感的工作负载提供更快的响应。

OpenAI 使用较小的开源模型以及来自 DeepSeek 和 Moonshot AI 的第三方模型对硬件进行了测试。Moonshot 的 Kimi 是测试中最大的公共工作负载，显示出最大的增益。据该公司称，内部测试还涵盖了未发布的 OpenAI 模型。

尽管如此，Jalapeño 并未与 Nvidia 的新 Vera Rubin 平台进行对比，该平台已开始发货。SemiAnalysis 称，由于 Jalapeño 使用 HBM4 内存，与 GB300 的比较是不完整的。Nvidia 的 Rubin 也使用 HBM4，这使得它在技术上更具可比性。

OpenAI 将决定哪些模型在该处理器上运行。客户随后可以选择旨在降低成本或提高速度的选项。Ho 表示，随着模型需求随着时间的推移而增长，这种方法应该能够改善响应时间和服务可用性。

博通合作推动定制 AI 推理芯片向前发展

OpenAI Jalapeño 芯片是与博通（Broadcom）合作开发的，博通是为大型科技公司提供定制硅片的供应商。OpenAI 表示，其 AI 模型有助于加速设计过程。第二代芯片即将完成流片，而工程师们已经开始构思第三代芯片。

Ho 表示，Jalapeño 能够处理比某些专用低延迟系统更大的模型。尽管如此，OpenAI 预计将继续使用 Cerebras 和其他计算提供商。其服务的需求量太大，单一芯片项目无法满足。

OpenAI Jalapeño 芯片可能会降低推理单元成本，但它无法训练前沿模型。Nvidia 在训练、广泛的编程能力和 CUDA 支持方面仍然重要。Ho 将 Nvidia 描述为关键合作伙伴，并表示 OpenAI 将继续购买其硬件。

<p>文章 OpenAI Jalapeño 芯片以更快的推理速度挑战 Nvidia 首次出现在 Coin Crypto Newz 上。</p>