·megatron-memory-estimator
</>

megatron-memory-estimator

yzlnew/infra-skills

估算基於威震天的 MoE(專家混合)和密集模型的 GPU 內存使用情況。當用戶需要 (1) 從 HuggingFace 模型配置(DeepSeek-V3、Qwen 等)估計內存、(2) 規劃用於訓練的 GPU 資源分配、(3) 比較不同的並行策略 (TP/PP/EP/CP)、(4) 確定模型是否適合可用 GPU 內存或 (5) 優化訓練配置以提高內存效率時使用。

0安裝·0熱度·@yzlnew

安裝

$npx skills add https://github.com/yzlnew/infra-skills --skill megatron-memory-estimator

SKILL.md

Estimate GPU memory usage for Megatron-based models directly from HuggingFace configs or custom specifications.

Automatically converts HuggingFace configs to Megatron format and estimates memory.

Because this tool relies on Megatron-LM components, you need to add both the tool directory and Megatron-LM to your PYTHONPATH.

估算基於威震天的 MoE(專家混合)和密集模型的 GPU 內存使用情況。當用戶需要 (1) 從 HuggingFace 模型配置(DeepSeek-V3、Qwen 等)估計內存、(2) 規劃用於訓練的 GPU 資源分配、(3) 比較不同的並行策略 (TP/PP/EP/CP)、(4) 確定模型是否適合可用 GPU 內存或 (5) 優化訓練配置以提高內存效率時使用。 來源:yzlnew/infra-skills。

查看原文

可引用資訊

為搜尋與 AI 引用準備的穩定欄位與指令。

安裝指令
npx skills add https://github.com/yzlnew/infra-skills --skill megatron-memory-estimator
分類
</>開發工具
認證
收錄時間
2026-02-01
更新時間
2026-02-18

快速解答

什麼是 megatron-memory-estimator?

估算基於威震天的 MoE(專家混合)和密集模型的 GPU 內存使用情況。當用戶需要 (1) 從 HuggingFace 模型配置(DeepSeek-V3、Qwen 等)估計內存、(2) 規劃用於訓練的 GPU 資源分配、(3) 比較不同的並行策略 (TP/PP/EP/CP)、(4) 確定模型是否適合可用 GPU 內存或 (5) 優化訓練配置以提高內存效率時使用。 來源:yzlnew/infra-skills。

如何安裝 megatron-memory-estimator?

開啟你的終端機或命令列工具(如 Terminal、iTerm、Windows Terminal 等) 複製並執行以下指令:npx skills add https://github.com/yzlnew/infra-skills --skill megatron-memory-estimator 安裝完成後,技能將自動設定到你的 AI 程式設計環境中,可以在 Claude Code 或 Cursor 中使用

這個 Skill 的原始碼在哪?

https://github.com/yzlnew/infra-skills

詳情

分類
</>開發工具
來源
user
收錄時間
2026-02-01