ما هي msmodelslim؟
أداة ضغط نموذج Huawei Ascend NPU (msModelSlim). الاستخدام لتكميم LLM (W4A8، W8A8، W8A8S، W8A16)، وضغط نموذج MoE، وضغط النماذج المتعددة الوسائط (Qwen-VL، وInternVL، وHunyuanVideo، وFLUX، وSD3)، وإعداد بيانات المعايرة، والضبط التلقائي الدقيق، وتحليل الطبقة الحساسة، وتكامل النموذج المخصص، والنشر في MindIE/vLLM-Ascend. يدعم Qwen، LLaMA، DeepSeek، GLM، Kimi، InternLM والمزيد. المصدر: ascend-ai-coding/awesome-ascend-skills.