Formato GGUF e quantizzazione llama.cpp per un'efficiente inferenza CPU/GPU. Da utilizzare quando si distribuiscono modelli su hardware consumer, Apple Silicon o quando è necessaria una quantizzazione flessibile da 2 a 8 bit senza requisiti GPU.
Installa rapidamente la skill AI gguf-quantization nel tuo ambiente di sviluppo tramite riga di comando
Fonte: orchestra-research/ai-research-skills.
The GGUF (GPT-Generated Unified Format) is the standard file format for llama.cpp, enabling efficient inference on CPUs, Apple Silicon, and GPUs with flexible quantization options.
| Type | Bits | Size (7B) | Quality | Use Case |
| Q2K | 2.5 | 2.8 GB | Low | Extreme compression | | Q3KS | 3.0 | 3.0 GB | Low-Med | Memory constrained | | Q3KM | 3.3 | 3.3 GB | Medium | Balance | | Q4KS | 4.0 | 3.8 GB | Med-High | Good balance | | Q4KM | 4.5 | 4.1 GB | High | Recommended default | | Q5KS | 5.0 | 4.6 GB | High | Quality focused | | Q5KM | 5.5 | 4.8 GB | Very High | High quality |
Campi e comandi stabili per citazioni AI/ricerca.
npx skills add https://github.com/orchestra-research/ai-research-skills --skill gguf-quantizationBrowse more skills from orchestra-research/ai-research-skills
Formato GGUF e quantizzazione llama.cpp per un'efficiente inferenza CPU/GPU. Da utilizzare quando si distribuiscono modelli su hardware consumer, Apple Silicon o quando è necessaria una quantizzazione flessibile da 2 a 8 bit senza requisiti GPU. Fonte: orchestra-research/ai-research-skills.
Apri il tuo terminale o strumento da riga di comando (Terminal, iTerm, Windows Terminal, ecc.) Copia ed esegui questo comando: npx skills add https://github.com/orchestra-research/ai-research-skills --skill gguf-quantization Dopo l'installazione, la skill verrà configurata automaticamente nel tuo ambiente AI di coding e sarà pronta all'uso in Claude Code, Cursor o OpenClaw
https://github.com/orchestra-research/ai-research-skills