MoE（Mixture of Experts）是我当前重点关注的方向之一。

这一条目先作为知识库入口，后续我会继续补充：

  • MoE 的基本思想
  • 稀疏激活与路由机制
  • 常见实现结构
  • 训练和推理时的关键问题
  • 工程落地中的资源与效率问题