OpenAI自研推理芯片Jalapeño亮相Hot Chips：基准测试显示效率超越英伟达Blackwell

先理解Jalapeño的定位。它并非用于训练大模型的训练芯片，而是专门为'推理'（inference）设计的芯片——也就是当用户向ChatGPT提问时，在后台真正运行模型、生成回答的那部分计算。随着ChatGPT的用户规模指数级增长，推理成本已经成为OpenAI最大的开支项之一。Ho在发布会上强调，Jalapeño的设计目标有两个：一是'用更少的电力服务更多AI工作负载'，二是'在返回响应时保持极低延迟'。换句话说，OpenAI希望这颗芯片既能支撑海量用户的高并发访问，又能让每个用户的等待时间足够短。在InferenceX基准测试中，Jalapeño在这两个维度上都交出了优于Blackwell的答卷。不过Ho也承认，这个对比存在时间差——英伟达的Blackwell是当前已量产的硬件，而Jalapeño要到2026年底才会'以非常小的批量'部署，真正大规模上线要等到2027年。到那时，英伟达的新一代产品可能也已经就位，竞争格局未必与今天相同。

Jalapeño的研发背景同样值得关注。这颗芯片于2025年10月首次对外公布，由OpenAI与博通（Broadcom）紧密合作开发，而且OpenAI自己的模型也参与了芯片的设计过程——用AI来设计AI硬件，这本身就是一种全栈式创新的体现。OpenAI的计划是把Jalapeño打造成'多代平台'（multigenerational platform），让AI产品、模型、芯片与内存实现协同开发。正是因为这种全栈思路，OpenAI得以针对推理过程中最容易产生瓶颈的环节做定向优化：Jalapeño专门设计来减少'预填充'（prefill）阶段与'通信'阶段的延迟——前者是模型在处理提示词时最耗时的部分，后者则是多芯片协同工作时数据交换的开销。Ho透露，OpenAI希望通过这种软硬件协同设计，让Jalapeño在规模化服务客户时既高效又能保持低延迟，从而在保证体验的同时显著降低单位算力成本。

从产业格局看，Jalapeño的亮相是AI算力自主化浪潮的一个标志性节点。过去两年，为了摆脱对单一芯片供应商的依赖、降低不断攀升的算力账单，几乎所有头部AI公司都在自研芯片：谷歌有TPU，亚马逊有Trainium与Inferentia，Meta正在推进自研芯片项目，微软也在与OpenAI合作开发定制硬件。OpenAI作为其中'最重度依赖英伟达'的公司，其芯片自研进展一直被视为风向标。此次基准数据的公开，至少传递了几个关键信号：第一，自研推理芯片在效率上已经可以与传统霸主正面竞争；第二，软硬件协同设计正在成为AI基础设施竞争的新制高点；第三，'每千瓦吞吐量'这类能效指标正在取代单纯的算力数字，成为衡量AI芯片的新标尺——因为在电力成本日益高昂的AI时代，能效就是成本，就是竞争力。当然，从基准测试到大规模稳定部署之间还有很长的路要走，Jalapeño能否在2027年真正扛起ChatGPT的推理负载，仍需要时间验证。但无论如何，'英伟达一家独大'的时代，正在被这些后起之秀一点点改写。