고급 병렬 처리 전략을 갖춘 NVIDIA Megatron-Core를 사용하여 대규모 언어 모델(2B-462B 매개변수)을 교육합니다. 1B 매개변수를 초과하는 모델을 학습하거나, 최대 GPU 효율성(H100에서 47% MFU)이 필요하거나, 텐서/파이프라인/시퀀스/컨텍스트/전문가 병렬 처리가 필요한 경우에 사용하세요. Nemotron, LLaMA, DeepSeek에 사용되는 프로덕션 준비 프레임워크입니다.
명령줄에서 training-llms-megatron AI 스킬을 개발 환경에 빠르게 설치
출처: ovachiever/droid-tings.
Megatron-Core trains LLMs from 2B to 462B parameters with up to 47% Model FLOP Utilization on H100 GPUs through advanced parallelism strategies.
| Model Size | GPUs | Tensor Parallel | Pipeline Parallel | Data Parallel | Context Parallel |
| 7B | 8 | 1 | 1 | 8 | 1 | | 13B | 8 | 2 | 1 | 4 | 1 | | 70B | 64 | 4 | 4 | 4 | 1 | | 405B | 128 | 8 | 8 | 2 | 2 |
고급 병렬 처리 전략을 갖춘 NVIDIA Megatron-Core를 사용하여 대규모 언어 모델(2B-462B 매개변수)을 교육합니다. 1B 매개변수를 초과하는 모델을 학습하거나, 최대 GPU 효율성(H100에서 47% MFU)이 필요하거나, 텐서/파이프라인/시퀀스/컨텍스트/전문가 병렬 처리가 필요한 경우에 사용하세요. Nemotron, LLaMA, DeepSeek에 사용되는 프로덕션 준비 프레임워크입니다. 출처: ovachiever/droid-tings.
AI/검색 인용용 안정적인 필드와 명령어.
npx skills add https://github.com/ovachiever/droid-tings --skill training-llms-megatron고급 병렬 처리 전략을 갖춘 NVIDIA Megatron-Core를 사용하여 대규모 언어 모델(2B-462B 매개변수)을 교육합니다. 1B 매개변수를 초과하는 모델을 학습하거나, 최대 GPU 효율성(H100에서 47% MFU)이 필요하거나, 텐서/파이프라인/시퀀스/컨텍스트/전문가 병렬 처리가 필요한 경우에 사용하세요. Nemotron, LLaMA, DeepSeek에 사용되는 프로덕션 준비 프레임워크입니다. 출처: ovachiever/droid-tings.
터미널 또는 명령줄 도구(Terminal, iTerm, Windows Terminal 등)를 엽니다 이 명령어를 복사하여 실행합니다: npx skills add https://github.com/ovachiever/droid-tings --skill training-llms-megatron 설치 후 스킬은 자동으로 AI 코딩 환경에 설정되어 Claude Code, Cursor, OpenClaw에서 사용할 수 있습니다
https://github.com/ovachiever/droid-tings