·training-llms-megatron
</>

training-llms-megatron

使用 NVIDIA Megatron-Core 和高级并行策略训练大型语言模型(2B-462B 参数)。当训练模型 >1B 参数、需要最大 GPU 效率(H100 上为 47% MFU)或需要张量/管道/序列/上下文/专家并行时使用。用于 Nemotron、LLaMA、DeepSeek 的生产就绪框架。

26安装·0热度·@ovachiever

安装

$npx skills add https://github.com/ovachiever/droid-tings --skill training-llms-megatron

如何安装 training-llms-megatron

通过命令行快速安装 training-llms-megatron AI 技能到你的开发环境

  1. 打开终端: 打开你的终端或命令行工具(如 Terminal、iTerm、Windows Terminal 等)
  2. 运行安装命令: 复制并运行以下命令:npx skills add https://github.com/ovachiever/droid-tings --skill training-llms-megatron
  3. 验证安装: 安装完成后,技能将自动配置到你的 AI 编程环境中,可以在 Claude Code、Cursor 或 OpenClaw 中使用

来源:ovachiever/droid-tings。

SKILL.md

查看原文

Megatron-Core trains LLMs from 2B to 462B parameters with up to 47% Model FLOP Utilization on H100 GPUs through advanced parallelism strategies.

| Model Size | GPUs | Tensor Parallel | Pipeline Parallel | Data Parallel | Context Parallel |

| 7B | 8 | 1 | 1 | 8 | 1 | | 13B | 8 | 2 | 1 | 4 | 1 | | 70B | 64 | 4 | 4 | 4 | 1 | | 405B | 128 | 8 | 8 | 2 | 2 |

使用 NVIDIA Megatron-Core 和高级并行策略训练大型语言模型(2B-462B 参数)。当训练模型 >1B 参数、需要最大 GPU 效率(H100 上为 47% MFU)或需要张量/管道/序列/上下文/专家并行时使用。用于 Nemotron、LLaMA、DeepSeek 的生产就绪框架。 来源:ovachiever/droid-tings。

可引用信息

为搜索与 AI 引用准备的稳定字段与命令。

安装命令
npx skills add https://github.com/ovachiever/droid-tings --skill training-llms-megatron
分类
</>开发工具
认证
收录时间
2026-03-03
更新时间
2026-03-10

Browse more skills from ovachiever/droid-tings

快速解答

什么是 training-llms-megatron?

使用 NVIDIA Megatron-Core 和高级并行策略训练大型语言模型(2B-462B 参数)。当训练模型 >1B 参数、需要最大 GPU 效率(H100 上为 47% MFU)或需要张量/管道/序列/上下文/专家并行时使用。用于 Nemotron、LLaMA、DeepSeek 的生产就绪框架。 来源:ovachiever/droid-tings。

如何安装 training-llms-megatron?

打开你的终端或命令行工具(如 Terminal、iTerm、Windows Terminal 等) 复制并运行以下命令:npx skills add https://github.com/ovachiever/droid-tings --skill training-llms-megatron 安装完成后,技能将自动配置到你的 AI 编程环境中,可以在 Claude Code、Cursor 或 OpenClaw 中使用

这个 Skill 的源码在哪?

https://github.com/ovachiever/droid-tings