英伟达Dynamo发布:号称“AI工厂的操作系统”
IT之家 3 月 19 日消息,英伟达今日正式发布 Dynamo,号称是“AI 工厂的操作系统”。
Dynamo 是一个“分布式推理服务库”。本质上,它是一个针对用户需求 token 而无法生产足够 token 之间问题的开源解决方案。
黄仁勋展示了一张关于推理的图表,X 轴显示用户每秒的 Token 数,Y 轴显示工厂每秒的 Token 数。
在 Dynamo、Grace Blackwell NVLink72 超级芯片的加持下,Blackwell 相比 Hopper 可实现 25 倍的性能提升。
而在推理模型中,Blackwell 的性能是 Hopper 的 40 倍。
IT之家注意到,黄仁勋还打趣道,有了上述最新技术加持,搭建 AI 工厂的厂商“买得越多、省得越多”,总而言之就是掏钱吧。
相关阅读:
- 2025-04-30 09:12:00 东风日产回应纯电新车N7与“某007”关系:核心部件设计完全不同
- 2025-04-25 12:42:00 好剧胜出,注水消亡?爱奇艺用AI帮用户“短平快”追剧
- 2025-04-23 07:14:00 坚持“过度安全”的研发策略 魏牌全新高山开启预售
- 2025-04-22 20:54:00 一把铁锅在拼多多卖出上亿元:永康厨具如何破解同质化难题?
- 2025-04-22 17:48:00 校企共筑创新生态 哈工大(威海)“企业家之家”揭牌启航
- 2025-04-22 09:59:00 比亚迪宋L EV推出限时置换优惠活动,综合补贴价15.48万元起