تقدير استخدام ذاكرة وحدة معالجة الرسومات لـ MoE (خليط من الخبراء) المستندة إلى Megatron والنماذج الكثيفة. يُستخدم عندما يحتاج المستخدمون إلى (1) تقدير الذاكرة من تكوينات نموذج HuggingFace (DeepSeek-V3، Qwen، وما إلى ذلك)، (2) التخطيط لتخصيص موارد GPU للتدريب، (3) مقارنة استراتيجيات التوازي المختلفة (TP/PP/EP/CP)، (4) تحديد ما إذا كان النموذج يناسب ذاكرة GPU المتاحة، أو (5) تحسين تكوينات التدريب من أجل كفاءة الذاكرة.
ثبّت مهارة الذكاء الاصطناعي megatron-memory-estimator بسرعة في بيئة التطوير لديك عبر سطر الأوامر
المصدر: yzlnew/infra-skills.
Estimate GPU memory usage for Megatron-based models directly from HuggingFace configs or custom specifications.
Automatically converts HuggingFace configs to Megatron format and estimates memory.
Because this tool relies on Megatron-LM components, you need to add both the tool directory and Megatron-LM to your PYTHONPATH.
تقدير استخدام ذاكرة وحدة معالجة الرسومات لـ MoE (خليط من الخبراء) المستندة إلى Megatron والنماذج الكثيفة. يُستخدم عندما يحتاج المستخدمون إلى (1) تقدير الذاكرة من تكوينات نموذج HuggingFace (DeepSeek-V3، Qwen، وما إلى ذلك)، (2) التخطيط لتخصيص موارد GPU للتدريب، (3) مقارنة استراتيجيات التوازي المختلفة (TP/PP/EP/CP)، (4) تحديد ما إذا كان النموذج يناسب ذاكرة GPU المتاحة، أو (5) تحسين تكوينات التدريب من أجل كفاءة الذاكرة. المصدر: yzlnew/infra-skills.
حقول وأوامر مستقرة للاقتباس في أنظمة الذكاء الاصطناعي والبحث.
npx skills add https://github.com/yzlnew/infra-skills --skill megatron-memory-estimatorتقدير استخدام ذاكرة وحدة معالجة الرسومات لـ MoE (خليط من الخبراء) المستندة إلى Megatron والنماذج الكثيفة. يُستخدم عندما يحتاج المستخدمون إلى (1) تقدير الذاكرة من تكوينات نموذج HuggingFace (DeepSeek-V3، Qwen، وما إلى ذلك)، (2) التخطيط لتخصيص موارد GPU للتدريب، (3) مقارنة استراتيجيات التوازي المختلفة (TP/PP/EP/CP)، (4) تحديد ما إذا كان النموذج يناسب ذاكرة GPU المتاحة، أو (5) تحسين تكوينات التدريب من أجل كفاءة الذاكرة. المصدر: yzlnew/infra-skills.
افتح الطرفية أو أداة سطر الأوامر لديك مثل Terminal أو iTerm أو Windows Terminal انسخ ونفّذ هذا الأمر: npx skills add https://github.com/yzlnew/infra-skills --skill megatron-memory-estimator بعد التثبيت، سيتم إعداد المهارة تلقائيا في بيئة البرمجة بالذكاء الاصطناعي لديك وتصبح جاهزة للاستخدام في Claude Code أو Cursor أو OpenClaw
https://github.com/yzlnew/infra-skills