megatron-memory-estimator
估算基於威震天的 MoE(專家混合)和密集模型的 GPU 內存使用情況。當用戶需要 (1) 從 HuggingFace 模型配置(DeepSeek-V3、Qwen 等)估計內存、(2) 規劃用於訓練的 GPU 資源分配、(3) 比較不同的並行策略 (TP/PP/EP/CP)、(4) 確定模型是否適合可用 GPU 內存或 (5) 優化訓練配置以提高內存效率時使用。
SKILL.md
Estimate GPU memory usage for Megatron-based models directly from HuggingFace configs or custom specifications.
Automatically converts HuggingFace configs to Megatron format and estimates memory.
Because this tool relies on Megatron-LM components, you need to add both the tool directory and Megatron-LM to your PYTHONPATH.
估算基於威震天的 MoE(專家混合)和密集模型的 GPU 內存使用情況。當用戶需要 (1) 從 HuggingFace 模型配置(DeepSeek-V3、Qwen 等)估計內存、(2) 規劃用於訓練的 GPU 資源分配、(3) 比較不同的並行策略 (TP/PP/EP/CP)、(4) 確定模型是否適合可用 GPU 內存或 (5) 優化訓練配置以提高內存效率時使用。 來源:yzlnew/infra-skills。
可引用資訊
為搜尋與 AI 引用準備的穩定欄位與指令。
- 安裝指令
npx skills add https://github.com/yzlnew/infra-skills --skill megatron-memory-estimator- 分類
- </>開發工具
- 認證
- —
- 收錄時間
- 2026-02-01
- 更新時間
- 2026-02-18
快速解答
什麼是 megatron-memory-estimator?
估算基於威震天的 MoE(專家混合)和密集模型的 GPU 內存使用情況。當用戶需要 (1) 從 HuggingFace 模型配置(DeepSeek-V3、Qwen 等)估計內存、(2) 規劃用於訓練的 GPU 資源分配、(3) 比較不同的並行策略 (TP/PP/EP/CP)、(4) 確定模型是否適合可用 GPU 內存或 (5) 優化訓練配置以提高內存效率時使用。 來源:yzlnew/infra-skills。
如何安裝 megatron-memory-estimator?
開啟你的終端機或命令列工具(如 Terminal、iTerm、Windows Terminal 等) 複製並執行以下指令:npx skills add https://github.com/yzlnew/infra-skills --skill megatron-memory-estimator 安裝完成後,技能將自動設定到你的 AI 程式設計環境中,可以在 Claude Code 或 Cursor 中使用
這個 Skill 的原始碼在哪?
https://github.com/yzlnew/infra-skills