云霞资讯网

SambaNova发布第五代RDU AI芯片,与英特尔达成多年期合作

IT之家2月24日消息,AI芯片企业SambaNova当地时间今日宣布推出其第五代RDU可重构数据流单元AI芯片。该芯片和基于其的SambaRackSN50风冷机架系统面向智能体推理工作负载,主打超低延迟、高吞吐量、节能,同时性能达到上代产品的5倍。

SambaNovaSN50采用大容量内存+HBM+SRAM的三层次存储结构,显著优化了时延表现。其在Llama3.370B上最大速度是英伟达B200GPU的5倍、智能体推理吞吐量则是后者的三倍以上;对于OpenAIGPT-OSS-120B,其能效可达B200的8倍。

软银将率先在其位于日本的下一代AI数据中心率先部署SN50芯片。该企业与英特尔达成了一项围绕AI推理解决方案的多年期长期合作。英特尔资本在内的投资者参与了SambaNova的3.5亿美元(IT之家注:现汇率约合24.21亿元人民币)E轮融资。