英伟达Dynamo发布:号称“AI工厂的操作系统”
IT之家 3 月 19 日消息,英伟达今日正式发布 Dynamo,号称是“AI 工厂的操作系统”。
Dynamo 是一个“分布式推理服务库”。本质上,它是一个针对用户需求 token 而无法生产足够 token 之间问题的开源解决方案。
黄仁勋展示了一张关于推理的图表,X 轴显示用户每秒的 Token 数,Y 轴显示工厂每秒的 Token 数。
在 Dynamo、Grace Blackwell NVLink72 超级芯片的加持下,Blackwell 相比 Hopper 可实现 25 倍的性能提升。
而在推理模型中,Blackwell 的性能是 Hopper 的 40 倍。
IT之家注意到,黄仁勋还打趣道,有了上述最新技术加持,搭建 AI 工厂的厂商“买得越多、省得越多”,总而言之就是掏钱吧。
相关阅读:
- 2025-06-12 07:42:00 亚马逊首席安全官呼吁美政府减少AI监管,否则会妨碍技术进步
- 2025-06-12 07:03:00 认定数量全区第一 呼和浩特13家企业入选2025年内蒙古先进级智能工厂名单
- 2025-06-11 14:26:00 微软发布Win10 22H2/21H2六月累积更新
- 2025-06-06 17:33:00 和讯投顾王帅:缩量反弹,下周还会继续?
- 2025-06-02 19:13:00 Anthropic开源神经网络追踪工具,可生成归因图
- 2025-05-31 10:05:00 江门设立“科技工作者之家” 服务6万名科技人才