强烈推荐——图解大模型训练系列：https://zhuanlan.zhihu.com/p/613196255 megatron moe https://zhuanlan.zhihu.com/p/697239184