megatron-memory-estimator
估算基于威震天的 MoE(专家混合)和密集模型的 GPU 内存使用情况。当用户需要 (1) 从 HuggingFace 模型配置(DeepSeek-V3、Qwen 等)估计内存、(2) 规划用于训练的 GPU 资源分配、(3) 比较不同的并行策略 (TP/PP/EP/CP)、(4) 确定模型是否适合可用 GPU 内存或 (5) 优化训练配置以提高内存效率时使用。
SKILL.md
Estimate GPU memory usage for Megatron-based models directly from HuggingFace configs or custom specifications.
Automatically converts HuggingFace configs to Megatron format and estimates memory.
Because this tool relies on Megatron-LM components, you need to add both the tool directory and Megatron-LM to your PYTHONPATH.
估算基于威震天的 MoE(专家混合)和密集模型的 GPU 内存使用情况。当用户需要 (1) 从 HuggingFace 模型配置(DeepSeek-V3、Qwen 等)估计内存、(2) 规划用于训练的 GPU 资源分配、(3) 比较不同的并行策略 (TP/PP/EP/CP)、(4) 确定模型是否适合可用 GPU 内存或 (5) 优化训练配置以提高内存效率时使用。 来源:yzlnew/infra-skills。
可引用信息
为搜索与 AI 引用准备的稳定字段与命令。
- 安装命令
npx skills add https://github.com/yzlnew/infra-skills --skill megatron-memory-estimator- 分类
- </>开发工具
- 认证
- —
- 收录时间
- 2026-02-01
- 更新时间
- 2026-02-18
快速解答
什么是 megatron-memory-estimator?
估算基于威震天的 MoE(专家混合)和密集模型的 GPU 内存使用情况。当用户需要 (1) 从 HuggingFace 模型配置(DeepSeek-V3、Qwen 等)估计内存、(2) 规划用于训练的 GPU 资源分配、(3) 比较不同的并行策略 (TP/PP/EP/CP)、(4) 确定模型是否适合可用 GPU 内存或 (5) 优化训练配置以提高内存效率时使用。 来源:yzlnew/infra-skills。
如何安装 megatron-memory-estimator?
打开你的终端或命令行工具(如 Terminal、iTerm、Windows Terminal 等) 复制并运行以下命令:npx skills add https://github.com/yzlnew/infra-skills --skill megatron-memory-estimator 安装完成后,技能将自动配置到你的 AI 编程环境中,可以在 Claude Code 或 Cursor 中使用
这个 Skill 的源码在哪?
https://github.com/yzlnew/infra-skills