Tag: 分布式训练
All the articles with the tag "分布式训练".
DeepEP 学习笔记:MoE 场景下的专家并行通信
整理 DeepEP v1/v2 与 MoonEP 的核心设计,用物流网络类比理解 dispatch/combine 流程。
分布式训练面试八股:复习笔记
Updated:一篇面向分布式训练方向面试的复习笔记:从 PP、DP/DDP/ZeRO 到 TP、SP/CP 与 EP/MoE,把每个框架发家的点串成线。
All the articles with the tag "分布式训练".
整理 DeepEP v1/v2 与 MoonEP 的核心设计,用物流网络类比理解 dispatch/combine 流程。
一篇面向分布式训练方向面试的复习笔记:从 PP、DP/DDP/ZeRO 到 TP、SP/CP 与 EP/MoE,把每个框架发家的点串成线。