OpenAI和博通公司联合推出LLM优化推理芯片

本报讯 记者姬晓婷报道：6月24日晚间，记者从OpenAI官网了解到，OpenAI和博通宣布发布一款名为Jalapeno的智能处理器，这是一款基于OpenAI对LLM（大语言模型）推理未来的愿景而设计的加速器，也是两家公司共同构建的多代计算平台中的首款AI加速器，旨在使先进的AI更快、更可靠，并让更多人更容易获得。

OpenAI基于其对机器学习模型（LLM）基本原理的深刻理解，并结合其模型、内核、服务系统和产品需求的路线图，从零开始设计了这款芯片。OpenAI与合作伙伴博通和Celestica携手，通过芯片实现、电路板和机架系统集成、高性能网络以及可扩展的生产系统，助力该平台实现产业化。Jalapeno芯片的设计兼顾灵活性，能够与所有LLM兼容。至此，Jalapeno芯片的工程样品已在实验室中以生产目标频率和功耗运行机器学习工作负载，包括GPT-5.3-Codex-Spark。

OpenAI仍在评估最终性能，但早期测试表明，Jalapeno的每瓦性能将显著优于目前最先进的技术。该架构减少了数据传输，并平衡了计算、内存和网络资源，从而使实际利用率更接近理论峰值性能。博通的芯片实现和网络技术，助力该平台实现大规模量产。

OpenAI称，Jalapeno是一个专为现代LLM推理而设计的全新方案，并非基于早期AI工作负载改造的通用加速器。它借鉴了OpenAI日常运行的系统，包括Chat GPT、Codex、API以及未来的智能体产品，同时也面向当前及未来业界的LLM应用。其目标是将当今领先的AI加速器的性能和吞吐量与接近最快专用推理系统的延迟相结合，从而使Jalapeno非常适合大规模交互式LLM产品。

OpenAI表示，Jalapeno从最初设计到最终流片仅用了九个月时间便完成了联合开发，而其定制的AI加速器项目代表了该公司所认为的高性能先进半导体领域迄今为止最快的ASIC开发周期。