·随笔·2 分钟阅读

OpenAI与Broadcom联合发布推理芯片Jalapeño:面向大模型的新一代算力平台

分享X微博

快讯短评

OpenAI与Broadcom联合推出名为Jalapeño的定制AI推理芯片,面向大语言模型推理场景,试图在算力效率、系统规模与能耗控制上实现全面优化。这一动作也被视为OpenAI向“软硬一体化”基础设施布局的重要一步。

从公开信息来看,这款芯片围绕LLM推理负载进行专门设计,而非通用GPU替代方案。其目标是让模型在实际服务中获得更高吞吐与更低单位能耗,并支撑更大规模的数据中心部署。同时,设计过程强调软硬件协同优化,甚至借助模型本身参与芯片设计流程。

关键信息点包括:

  • Jalapeño为LLM推理专用芯片,强调性能与能效优化
  • 由OpenAI与Broadcom共同设计,属于长期多代芯片计划的一部分
  • 目标用于大规模数据中心部署,强化OpenAI基础设施控制力

来源:https://openai.com/index/openai-broadcom-jalapeno-inference-chip/ 推荐工具:ChatGPT

相关阅读

本站评论 (0)

  • 暂无评论,来说第一句吧。