Déployez vLLM pour une inférence LLM hautes performances. Couvre les déploiements de CPU/GPU Docker et le provisionnement de machines virtuelles cloud avec des points de terminaison d'API compatibles OpenAI.
Installez rapidement le skill IA vllm-deployment dans votre environnement de développement via la ligne de commande
Source : stakpak/community-paks.
| CPU | 2x model size | 4x model size | | GPU | Model size + 2GB | Model size + 4GB VRAM |
| VLLMCPUKVCACHESPACE | KV cache size in GB (CPU) | 4 | | VLLMCPUOMPTHREADSBIND | CPU core binding (CPU) | 0-7 | | CUDAVISIBLEDEVICES | GPU device selection | 0,1 | | HFTOKEN | HuggingFace authentication | hfxxx |
| --shm-size=4g | Shared memory for IPC | | --cap-add SYSNICE | NUMA optimization (CPU) | | --security-opt seccomp=unconfined | Memory policy syscalls (CPU) | | --gpus all | GPU access | | -p 8000:8000 | Port mapping |
Déployez vLLM pour une inférence LLM hautes performances. Couvre les déploiements de CPU/GPU Docker et le provisionnement de machines virtuelles cloud avec des points de terminaison d'API compatibles OpenAI. Source : stakpak/community-paks.
Champs et commandes stables pour les citations IA/recherche.
npx skills add https://github.com/stakpak/community-paks --skill vllm-deploymentDéployez vLLM pour une inférence LLM hautes performances. Couvre les déploiements de CPU/GPU Docker et le provisionnement de machines virtuelles cloud avec des points de terminaison d'API compatibles OpenAI. Source : stakpak/community-paks.
Ouvrez votre terminal ou outil de ligne de commande (Terminal, iTerm, Windows Terminal, etc.) Copiez et exécutez cette commande : npx skills add https://github.com/stakpak/community-paks --skill vllm-deployment Une fois installé, le skill sera automatiquement configuré dans votre environnement de programmation IA et prêt à être utilisé dans Claude Code, Cursor ou OpenClaw
https://github.com/stakpak/community-paks