OpenAI自研Jalapeño推理芯片早期基准曝光：GPT-OSS 120B每瓦吞吐更高、Token延迟更低

OpenAI正在将“丰富智能”愿景从模型层延伸到芯片层。其自研Jalapeño推理芯片围绕自身模型工作负载设计，早期基准测试显示，在GPT-OSS 120B模型上，Jalapeño相较测试中的商用系统实现了更高的每千瓦峰值吞吐量，同时To...

Read More