英伟达 Dynamo 发布:号称“AI 工厂的操作系统”,Blackwell 买得越多、省得越多
xxn
阅读:67724
2025-03-19 04:01:01
评论:0
IT之家近日宣布,英伟达今日推出Dynamo,被誉为“人工智能工厂的操作系统”。
Dynamo是一款“分布式推理服务库”。实质上,它是一种开源解决方案,专门解决用户需求token不足问题。
黄仁勋展示了一张关于推理的图表,X轴显示用户每秒的Token数,Y轴显示工厂每秒的Token数。
在Dynamo、Grace Blackwell NVLink72超级芯片的支持下,Blackwell相比Hopper可以实现25倍的性能提升。
在推理模型方面,Blackwell的性能是Hopper的40倍。
IT之家指出,黄仁勋还开玩笑称,凭借最新技术,建立AI工厂的企业“买得越多、省得越多”,总之还是要花钱。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考。
声明
1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。