英伟达发布 CUDA Toolkit 13.5：正式支持 Vera Rubin，升级多 GPU 通信

IT之家 11 月 5 日消息，英伟达于当地时间 11 月 4 日正式发布了最新的 CUDA Toolkit 13.5，为下一代 AI 计算平台 Vera Rubin 提供正式可用（GA）支持，标志着相关架构从早期开发者预览阶段进入面向企业生产环境的部署阶段。 据英伟达官方介绍，此次更新不仅完善了 Vera Rubin 平台的底层软件支持，还针对 GPU 资源调度、多 GPU 通信、数学计算库及性能分析工具进行了多项升级，重点面向大规模 AI 训练和推理场景。 在计算性能方面，CUDA 13.5 更新了 cuBLAS 的矩阵乘法启发式策略和内核调优机制，针对 Vera Rubin 架构上的 NVFP4、MXFP8 低精度矩阵运算进行了优化，覆盖混合专家模型（MoE）等训练场景。英伟达表示，这些改进能够在无需针对每种计算形状单独进行自动调优的情况下，提高训练和推理吞吐量。 在 GPU 调度方面，CUDA 13.5 对 NVIDIA 多进程服务（MPS）v3 进行了升级，新增加权时间片机制。管理员可以为运行重负载的 MPS 服务器设置更长的基础计算时间片，同时独立调整 GPU 在不同任务之间的切换频率，从而更灵活地控制多任务环境下的资源分配。 MPS v3 还加入了流式多处理器（SM）分区负载均衡功能。任务可以在资源充足时借用其他分区暂时闲置的 SM 资源，而当原分区需要使用这些资源时，系统会先回收已借出的部分。无论资源如何动态流转，应用看到的基础分区规模始终保持稳定。此外，新版本还增加了基于 Linux cgroup 的资源路由和命名空间级 SM 分区配置。 局部域（Locality Domain）也获得了新的资源划分策略。应用现在可以选择两种 SM 分区方式：一种是在各局部域中分配相同数量的 SM，以保证资源规模的一致性和可预测性；另一种则将原本处于分区之外的补充 SM 纳