什麼是 training-llms-megatron?
使用 NVIDIA Megatron-Core 和高階平行策略訓練大型語言模型(2B-462B 參數)。當訓練模型 >1B 參數、需要最大 GPU 效率(H100 上為 47% MFU)或需要張量/管道/序列/上下文/專家並行時使用。用於 Nemotron、LLaMA、DeepSeek 的生產就緒框架。 來源:ovachiever/droid-tings。
使用 NVIDIA Megatron-Core 和高階平行策略訓練大型語言模型(2B-462B 參數)。當訓練模型 >1B 參數、需要最大 GPU 效率(H100 上為 47% MFU)或需要張量/管道/序列/上下文/專家並行時使用。用於 Nemotron、LLaMA、DeepSeek 的生產就緒框架。
透過命令列快速安裝 training-llms-megatron AI 技能到你的開發環境
來源:ovachiever/droid-tings。
Megatron-Core trains LLMs from 2B to 462B parameters with up to 47% Model FLOP Utilization on H100 GPUs through advanced parallelism strategies.
| Model Size | GPUs | Tensor Parallel | Pipeline Parallel | Data Parallel | Context Parallel |
| 7B | 8 | 1 | 1 | 8 | 1 | | 13B | 8 | 2 | 1 | 4 | 1 | | 70B | 64 | 4 | 4 | 4 | 1 | | 405B | 128 | 8 | 8 | 2 | 2 |
使用 NVIDIA Megatron-Core 和高階平行策略訓練大型語言模型(2B-462B 參數)。當訓練模型 >1B 參數、需要最大 GPU 效率(H100 上為 47% MFU)或需要張量/管道/序列/上下文/專家並行時使用。用於 Nemotron、LLaMA、DeepSeek 的生產就緒框架。 來源:ovachiever/droid-tings。
為搜尋與 AI 引用準備的穩定欄位與指令。
npx skills add https://github.com/ovachiever/droid-tings --skill training-llms-megatron使用 NVIDIA Megatron-Core 和高階平行策略訓練大型語言模型(2B-462B 參數)。當訓練模型 >1B 參數、需要最大 GPU 效率(H100 上為 47% MFU)或需要張量/管道/序列/上下文/專家並行時使用。用於 Nemotron、LLaMA、DeepSeek 的生產就緒框架。 來源:ovachiever/droid-tings。
開啟你的終端機或命令列工具(如 Terminal、iTerm、Windows Terminal 等) 複製並執行以下指令:npx skills add https://github.com/ovachiever/droid-tings --skill training-llms-megatron 安裝完成後,技能將自動設定到你的 AI 程式設計環境中,可以在 Claude Code、Cursor 或 OpenClaw 中使用
https://github.com/ovachiever/droid-tings