llama-cpp
✓Exécute l'inférence LLM sur les processeurs, Apple Silicon et les GPU grand public sans matériel NVIDIA. À utiliser pour le déploiement périphérique, les Mac M1/M2/M3, les GPU AMD/Intel ou lorsque CUDA n'est pas disponible. Prend en charge la quantification GGUF (1,5 à 8 bits) pour une mémoire réduite et une accélération de 4 à 10 fois par rapport à PyTorch sur le processeur.
Installation
SKILL.md
Pure C/C++ LLM inference with minimal dependencies, optimized for CPUs and non-NVIDIA hardware.
| Format | Bits | Size (7B) | Speed | Quality | Use Case |
| Q4KM | 4.5 | 4.1 GB | Fast | Good | Recommended default | | Q4KS | 4.3 | 3.9 GB | Faster | Lower | Speed critical | | Q5KM | 5.5 | 4.8 GB | Medium | Better | Quality critical | | Q6K | 6.5 | 5.5 GB | Slower | Best | Maximum quality | | Q80 | 8.0 | 7.0 GB | Slow | Excellent | Minimal degradation | | Q2K | 2.5 | 2.7 GB | Fastest | Poor | Testing only |
Exécute l'inférence LLM sur les processeurs, Apple Silicon et les GPU grand public sans matériel NVIDIA. À utiliser pour le déploiement périphérique, les Mac M1/M2/M3, les GPU AMD/Intel ou lorsque CUDA n'est pas disponible. Prend en charge la quantification GGUF (1,5 à 8 bits) pour une mémoire réduite et une accélération de 4 à 10 fois par rapport à PyTorch sur le processeur. Source : ovachiever/droid-tings.
Faits (prêts à citer)
Champs et commandes stables pour les citations IA/recherche.
- Commande d'installation
npx skills add https://github.com/ovachiever/droid-tings --skill llama-cpp- Source
- ovachiever/droid-tings
- Catégorie
- </>Développement
- Vérifié
- ✓
- Première apparition
- 2026-02-01
- Mis à jour
- 2026-02-18
Réponses rapides
Qu'est-ce que llama-cpp ?
Exécute l'inférence LLM sur les processeurs, Apple Silicon et les GPU grand public sans matériel NVIDIA. À utiliser pour le déploiement périphérique, les Mac M1/M2/M3, les GPU AMD/Intel ou lorsque CUDA n'est pas disponible. Prend en charge la quantification GGUF (1,5 à 8 bits) pour une mémoire réduite et une accélération de 4 à 10 fois par rapport à PyTorch sur le processeur. Source : ovachiever/droid-tings.
Comment installer llama-cpp ?
Ouvrez votre terminal ou outil de ligne de commande (Terminal, iTerm, Windows Terminal, etc.) Copiez et exécutez cette commande : npx skills add https://github.com/ovachiever/droid-tings --skill llama-cpp Une fois installé, le skill sera automatiquement configuré dans votre environnement de programmation IA et prêt à être utilisé dans Claude Code ou Cursor
Où se trouve le dépôt source ?
https://github.com/ovachiever/droid-tings
Détails
- Catégorie
- </>Développement
- Source
- skills.sh
- Première apparition
- 2026-02-01