DeepSpeed

DeepSpeed ZeRO 训练大模型实战

DeepSpeed ZeRO-1/2/3 显存优化原理与实战配置,助力在有限 GPU 资源下训练十亿级参数模型。

LLM分布式训练 — DeepSpeed 实操 featured image

LLM分布式训练 — DeepSpeed 实操

DeepSpeed 分布式训练实战:ZeRO 优化、并行策略与集群架构配置完整指南。