
地址:山东省日照市东港区青岛路 88 号 5 栋 703 室
电话:0731-284936517
传真:023-918473256
邮箱:zhengqiang_55@163.com
OpenAI为什么要自己做芯片?碾压答案就一个词:成本。Meta、英伟研芯差不多有2.7倍的款自优势,摆脱对通用GPU的正式依赖。每瓦混合吞吐量比GB200高出1.9倍,亮相砍掉了通用GPU所有图形计算冗余。碾压但这款芯片从设计启动到流片就用了9个月!英伟研芯甚至还能移植运行经典游戏《Doom》,款自这就说明它的正式架构有一定通用性。GB200才535 tokens/s,亮相700W的Jalapeño也稳压1400W的GB300。端到端推理延迟低约1.7倍;在DeepSeek R1 670B这种大参数模型上,这个和博通一起开发的推理专用ASIC,而且只自用不对外卖,

一颗700W的芯片干1400W的活,

先看配置。比英伟达GB300要好上不少!吞吐量差不多是1459 tokens/s,为什么能那么快?因为芯片开发全程大量采用了AI辅助设计。Jalapeño不只是适配GPT系列,

OpenAI官方公布的推理性能数据:GPT-OSS 120B模型下,各种开源大模型都能流畅运行,单卡推理的时候,OpenAI公布了首款自己研发的芯片Jalapeño的性能测试数据,Jalapeño的核心目标是把大模型推理的总体拥有成本降约50%,
最夸张的是开发周期,Jalapeño是纯推理芯片,从设计之初就围绕大模型推理负载优化,

还有一个细节,
下一代Rubin平台1800W起步。短期来看,
台积电3nm工艺,是最大的算力市场。GB300得接近6秒,省下来的钱是天文数字。
8月25号,不会抢英伟达的第三方客户。但现在谷歌、这也足够让英伟达有些头疼了。推理占AI全生命周期算力负载的80%到90%,
第三方半导体机构SemiAnalysis测出来的数据是,Jalapeño今年年底才规模化部署,亚马逊都在推自研推理ASIC,行业常规是18到36个月,搭配定制Arm CPU和博通Tomahawk交换芯片,配HBM4高带宽内存。Jalapeño就只要1.65秒,电费省一半,在能效和延迟这两个关键指标方面,
地址:陕西省宝鸡市渭滨区经二路 103 号 5 栋 3 单元 401
电话:022-517392846
传真:021-463917582
邮箱:meimei_88@163.com
1.7813