Your Name
  • 主页
  • 论文
  • 初创
  • 博客
  • 经历
  • 项目
  • 奖项
  • English
ESC

Searching...

No results found

↑↓ Navigate ↵ Select
Powered by Hugo Blox
  • Publications
    • GDN-Memory：具身世界模型的恒定占用联想记忆系统
    • 合成数据驱动的扩散模型用于血管腔内介入引导
    • 面向多轴高速连续碳纤维 3D 打印的应力驱动 G-code 规划
    • 面向可部署视觉-语言-动作策略的高效推理基础设施
  • Blog
    • 综述：VLA 如何落地医疗机器人
    • VLA 具身模型后训练综述
    • LLM 微调实战报告
    • LLM 微调实战：从 LoRA 到全参数
    • CFD 散热仿真：从建模到优化
    • FlashAttention 原理与工程实现解析
    • DeepSpeed ZeRO 训练大模型实战
    • PyTorch DDP 分布式训练实战
  • Projects
    • GDN-Memory: Constant-Footprint Embodied Memory for World Models
    • 血管介入手术机器人平台（stEVE）
    • MacroHard Maker — 连续碳纤维 3D 打印路径规划
    • OpenDuckMini — 开源双足机器人
    • LeRobot 与具身 AI 黑客松项目
    • 医疗 AI 问诊平台
    • AGV 迎宾巡检机器人 — 同济大学落地部署
    • 机械臂仿真引擎 — 同济×西门子工业 4.0 实验室
    • 智能小车设计 — 省赛银奖（队长）
  • 奖项与竞赛
  • 工作经历

DeepSpeed ZeRO 训练大模型实战

7月 5, 2025 · 0 分钟阅读时长
Site
最近更新于 7月 5, 2025
DeepSpeed ZeRO 大模型训练
Liu Yue
Authors
Liu Yue (he/him)
具身智能基础模型研究者 / 初创公司创始人
← FlashAttention 原理与工程实现解析 7月 20, 2025
PyTorch DDP 分布式训练实战 6月 15, 2025 →
语言:
中文 (简体)
English

© 2026 Me. This work is licensed under CC BY NC ND 4.0

由Hugo Blox — Open Source支持发布——免费开源网站，为创作者赋能。 构建您的 →