什么是 training-llms-megatron?
使用 NVIDIA Megatron-Core 和高级并行策略训练大型语言模型(2B-462B 参数)。当训练模型 >1B 参数、需要最大 GPU 效率(H100 上为 47% MFU)或需要张量/管道/序列/上下文/专家并行时使用。用于 Nemotron、LLaMA、DeepSeek 的生产就绪框架。 来源:ovachiever/droid-tings。
使用 NVIDIA Megatron-Core 和高级并行策略训练大型语言模型(2B-462B 参数)。当训练模型 >1B 参数、需要最大 GPU 效率(H100 上为 47% MFU)或需要张量/管道/序列/上下文/专家并行时使用。用于 Nemotron、LLaMA、DeepSeek 的生产就绪框架。
通过命令行快速安装 training-llms-megatron AI 技能到你的开发环境
来源:ovachiever/droid-tings。
Megatron-Core trains LLMs from 2B to 462B parameters with up to 47% Model FLOP Utilization on H100 GPUs through advanced parallelism strategies.
| Model Size | GPUs | Tensor Parallel | Pipeline Parallel | Data Parallel | Context Parallel |
| 7B | 8 | 1 | 1 | 8 | 1 | | 13B | 8 | 2 | 1 | 4 | 1 | | 70B | 64 | 4 | 4 | 4 | 1 | | 405B | 128 | 8 | 8 | 2 | 2 |
使用 NVIDIA Megatron-Core 和高级并行策略训练大型语言模型(2B-462B 参数)。当训练模型 >1B 参数、需要最大 GPU 效率(H100 上为 47% MFU)或需要张量/管道/序列/上下文/专家并行时使用。用于 Nemotron、LLaMA、DeepSeek 的生产就绪框架。 来源:ovachiever/droid-tings。
为搜索与 AI 引用准备的稳定字段与命令。
npx skills add https://github.com/ovachiever/droid-tings --skill training-llms-megatron使用 NVIDIA Megatron-Core 和高级并行策略训练大型语言模型(2B-462B 参数)。当训练模型 >1B 参数、需要最大 GPU 效率(H100 上为 47% MFU)或需要张量/管道/序列/上下文/专家并行时使用。用于 Nemotron、LLaMA、DeepSeek 的生产就绪框架。 来源:ovachiever/droid-tings。
打开你的终端或命令行工具(如 Terminal、iTerm、Windows Terminal 等) 复制并运行以下命令:npx skills add https://github.com/ovachiever/droid-tings --skill training-llms-megatron 安装完成后,技能将自动配置到你的 AI 编程环境中,可以在 Claude Code、Cursor 或 OpenClaw 中使用
https://github.com/ovachiever/droid-tings