DeepNVMe重大升级：扩展模型检查点与推理支持，引入PCIe Gen5 NVMe扩展能力
talkingdev • 2025-06-19
4829 views
DeepNVMe最新版本实现了多项突破性升级：首先扩展了对模型检查点（checkpointing）和推理工作负载的支持，使深度学习框架能更高效地管理训练中间状态；其次新增PCIe Gen5 NVMe的扩展能力，显著提升存储带宽以应对大规模数据吞吐需求；同时创新性地引入仅CPU模式和基于偏移量的I/O选项，针对DeepSpeed 0.17.1及以上版本的数据密集型训练场景，可提升高达30%的I/O性能。这些改进直接解决了AI训练中普遍存在的存储瓶颈问题，特别是对于需要频繁保存TB级模型参数的LLM训练场景。技术团队通过底层NVMe协议栈优化，使单节点可实现200GB/s的持续读写吞吐，为下一代AI基础设施树立了新标杆。
核心要点
- 支持模型检查点和推理工作负载，增强训练过程可靠性
- 新增PCIe Gen5 NVMe扩展，单节点吞吐达200GB/s
- 创新CPU-only和offset-based I/O模式，提升DeepSpeed数据训练效率30%