Featured
DeepEP 学习笔记:MoE 场景下的专家并行通信
整理 DeepEP v1/v2 与 MoonEP 的核心设计,用物流网络类比理解 dispatch/combine 流程。
分布式训练面试八股:复习笔记
Updated:一篇面向分布式训练方向面试的复习笔记:从 PP、DP/DDP/ZeRO 到 TP、SP/CP 与 EP/MoE,把每个框架发家的点串成线。
这个博客能渲染什么
一篇自我索引式的样张:把本站支持的全部 Markdown 渲染能力——数学公式、代码高亮、提示框、表格、脚注、图片放大——连同写法一并列出,写作时可随时回查。