Huawei Ascend NPU で機能する LLM 推論用の vLLM Ascend プラグイン。オフライン バッチ推論、API サーバー デプロイメント、量子化推論 (msmodelslim 量子化モデルを使用)、分散サービスのためのテンソル/パイプライン並列処理、および OpenAI 互換 API エンドポイントに使用します。 Ascend に最適化されたカーネルで Qwen、DeepSeek、GLM、LLaMA モデルをサポートします。
コマンドラインで vllm-ascend AI スキルを開発環境にすばやくインストール
ソース: ascend-ai-coding/awesome-ascend-skills。
vLLM-Ascend is a plugin for vLLM that enables efficient LLM inference on Huawei Ascend AI processors. It provides Ascend-optimized kernels, quantization support, and distributed inference capabilities.
vLLM-Ascend supports models quantized with msModelSlim. For quantization details, see msmodelslim.
| Parameter | Default | Description | Tuning Advice |
Huawei Ascend NPU で機能する LLM 推論用の vLLM Ascend プラグイン。オフライン バッチ推論、API サーバー デプロイメント、量子化推論 (msmodelslim 量子化モデルを使用)、分散サービスのためのテンソル/パイプライン並列処理、および OpenAI 互換 API エンドポイントに使用します。 Ascend に最適化されたカーネルで Qwen、DeepSeek、GLM、LLaMA モデルをサポートします。 ソース: ascend-ai-coding/awesome-ascend-skills。
AI/検索での引用用の安定したフィールドとコマンド。
npx skills add https://github.com/ascend-ai-coding/awesome-ascend-skills --skill vllm-ascendBrowse more skills from ascend-ai-coding/awesome-ascend-skills
Huawei Ascend NPU で機能する LLM 推論用の vLLM Ascend プラグイン。オフライン バッチ推論、API サーバー デプロイメント、量子化推論 (msmodelslim 量子化モデルを使用)、分散サービスのためのテンソル/パイプライン並列処理、および OpenAI 互換 API エンドポイントに使用します。 Ascend に最適化されたカーネルで Qwen、DeepSeek、GLM、LLaMA モデルをサポートします。 ソース: ascend-ai-coding/awesome-ascend-skills。
ターミナルまたはコマンドラインツール（Terminal、iTerm、Windows Terminal など）を開きます このコマンドをコピーして実行します: npx skills add https://github.com/ascend-ai-coding/awesome-ascend-skills --skill vllm-ascend インストール後、スキルは自動的に AI コーディング環境に設定され、Claude Code、Cursor、OpenClaw で使用できるようになります
https://github.com/ascend-ai-coding/awesome-ascend-skills