moe-training

SKILL.md

Notable MoE Models: Mixtral 8x7B (Mistral AI), DeepSeek-V3, Switch Transformers (Google), GLaM (Google), NLLB-MoE (Meta)

使用 DeepSpeed 或 HuggingFace 訓練混合專家 (MoE) 模型。在訓練運算量有限的大型模型（與密集模型相比成本降低 5 倍）、實作 Mixtral 8x7B 或 DeepSeek-V3 等稀疏架構或在不按比例增加運算量的情況下擴展模型容量時使用。涵蓋 MoE 架構、路由機制、負載平衡、專家並行和推理最佳化。 來源：orchestra-research/ai-research-skills。

開啟你的終端機或命令列工具（如 Terminal、iTerm、Windows Terminal 等） 複製並執行以下指令：npx skills add https://github.com/orchestra-research/ai-research-skills --skill moe-training 安裝完成後，技能將自動設定到你的 AI 程式設計環境中，可以在 Claude Code 或 Cursor 中使用

安全認證，程式碼可靠安全 一鍵安裝，設定簡單 相容 Claude Code、Cursor 等工具

查看原文