البرنامج المساعد vLLM Ascend لاستدلال LLM الذي يعمل على Huawei Ascend NPU. يستخدم للاستدلال الدفعي دون اتصال، ونشر خادم واجهة برمجة التطبيقات، واستدلال القياس الكمي (مع النماذج الكمية msmodelslim)، وتوازي الموتر/خط الأنابيب للخدمة الموزعة، ونقاط نهاية واجهة برمجة التطبيقات المتوافقة مع OpenAI. يدعم نماذج Qwen وDeepSeek وGLM وLLaMA مع حبات محسنة تصاعديًا.
ثبّت مهارة الذكاء الاصطناعي vllm-ascend بسرعة في بيئة التطوير لديك عبر سطر الأوامر
المصدر: ascend-ai-coding/awesome-ascend-skills.
vLLM-Ascend is a plugin for vLLM that enables efficient LLM inference on Huawei Ascend AI processors. It provides Ascend-optimized kernels, quantization support, and distributed inference capabilities.
vLLM-Ascend supports models quantized with msModelSlim. For quantization details, see msmodelslim.
| Parameter | Default | Description | Tuning Advice |
البرنامج المساعد vLLM Ascend لاستدلال LLM الذي يعمل على Huawei Ascend NPU. يستخدم للاستدلال الدفعي دون اتصال، ونشر خادم واجهة برمجة التطبيقات، واستدلال القياس الكمي (مع النماذج الكمية msmodelslim)، وتوازي الموتر/خط الأنابيب للخدمة الموزعة، ونقاط نهاية واجهة برمجة التطبيقات المتوافقة مع OpenAI. يدعم نماذج Qwen وDeepSeek وGLM وLLaMA مع حبات محسنة تصاعديًا. المصدر: ascend-ai-coding/awesome-ascend-skills.
حقول وأوامر مستقرة للاقتباس في أنظمة الذكاء الاصطناعي والبحث.
npx skills add https://github.com/ascend-ai-coding/awesome-ascend-skills --skill vllm-ascendBrowse more skills from ascend-ai-coding/awesome-ascend-skills
البرنامج المساعد vLLM Ascend لاستدلال LLM الذي يعمل على Huawei Ascend NPU. يستخدم للاستدلال الدفعي دون اتصال، ونشر خادم واجهة برمجة التطبيقات، واستدلال القياس الكمي (مع النماذج الكمية msmodelslim)، وتوازي الموتر/خط الأنابيب للخدمة الموزعة، ونقاط نهاية واجهة برمجة التطبيقات المتوافقة مع OpenAI. يدعم نماذج Qwen وDeepSeek وGLM وLLaMA مع حبات محسنة تصاعديًا. المصدر: ascend-ai-coding/awesome-ascend-skills.
افتح الطرفية أو أداة سطر الأوامر لديك مثل Terminal أو iTerm أو Windows Terminal انسخ ونفّذ هذا الأمر: npx skills add https://github.com/ascend-ai-coding/awesome-ascend-skills --skill vllm-ascend بعد التثبيت، سيتم إعداد المهارة تلقائيا في بيئة البرمجة بالذكاء الاصطناعي لديك وتصبح جاهزة للاستخدام في Claude Code أو Cursor أو OpenClaw
https://github.com/ascend-ai-coding/awesome-ascend-skills