msmodelslim とは?
Huawei Ascend NPU モデル圧縮ツール (msModelSlim)。 LLM 量子化 (W4A8、W8A8、W8A8S、W8A16)、MoE モデル圧縮、マルチモーダル モデル圧縮 (Qwen-VL、InternVL、HunyuanVideo、FLUX、SD3)、キャリブレーション データの準備、高精度自動チューニング、機密レイヤー分析、カスタム モデルの統合、MindIE/vLLM-Ascend での展開に使用します。 Qwen、LLaMA、DeepSeek、GLM、Kimi、InternLM などをサポートします。 ソース: ascend-ai-coding/awesome-ascend-skills。