英伟达宣布 Groq 3 LPX 机架全面量产,这标志着其200亿美元收购案的成果正式落地。这款芯片将与Vera处理器和Rubin显卡共同部署在云服务商Nebius平台,预计今年晚些时候上线。
低延迟推理技术成关键。英伟达表示,这类芯片能帮助AI智能体快速响应用户请求,尤其在编程场景中避免卡顿。云计算公司可借此对Token服务收取更高费用。
收购细节显示,Groq芯片由三星制造,内置500MB高速SRAM。英伟达将256颗Groq 3芯片封装进LPX机架,实测每秒处理3400个Token。这比OpenAI最新“Ultrafast”模式的750个Token快近5倍。
当前AI芯片市场竞争激烈。AMD刚宣布整合Cerebras芯片,而英伟达则强调低延迟芯片与GPU各有分工。黄仁勋预测,到2027年Vera Rubin系统和Blackwell芯片的总销售额将达1万亿美元。
英伟达计划周三公布财报。这场芯片大战中,低延迟方案与通用GPU的协同效应,正在重塑AI算力生态。