Ottimizzazione efficiente della memoria con quantizzazione a 4 bit e adattatori LoRA. Da utilizzare per la messa a punto di modelli di grandi dimensioni (7B+) su GPU consumer, quando la VRAM è limitata o quando LoRA standard supera ancora la memoria. Si basa sull'abilità Lora.
Installa rapidamente la skill AI qlora nel tuo ambiente di sviluppo tramite riga di comando
Fonte: itsmostafa/llm-engineering-skills.
QLoRA enables fine-tuning of large language models on consumer GPUs by combining 4-bit quantization with LoRA adapters. A 65B model can be fine-tuned on a single 48GB GPU while matching 16-bit fine-tuning performance.
Prerequisites: This skill assumes familiarity with LoRA. See the lora skill for LoRA fundamentals (LoraConfig, targetmodules, training patterns).
QLoRA introduces three techniques that reduce memory usage without sacrificing performance:
Ottimizzazione efficiente della memoria con quantizzazione a 4 bit e adattatori LoRA. Da utilizzare per la messa a punto di modelli di grandi dimensioni (7B+) su GPU consumer, quando la VRAM è limitata o quando LoRA standard supera ancora la memoria. Si basa sull'abilità Lora. Fonte: itsmostafa/llm-engineering-skills.
Campi e comandi stabili per citazioni AI/ricerca.
npx skills add https://github.com/itsmostafa/llm-engineering-skills --skill qloraOttimizzazione efficiente della memoria con quantizzazione a 4 bit e adattatori LoRA. Da utilizzare per la messa a punto di modelli di grandi dimensioni (7B+) su GPU consumer, quando la VRAM è limitata o quando LoRA standard supera ancora la memoria. Si basa sull'abilità Lora. Fonte: itsmostafa/llm-engineering-skills.
Apri il tuo terminale o strumento da riga di comando (Terminal, iTerm, Windows Terminal, ecc.) Copia ed esegui questo comando: npx skills add https://github.com/itsmostafa/llm-engineering-skills --skill qlora Dopo l'installazione, la skill verrà configurata automaticamente nel tuo ambiente AI di coding e sarà pronta all'uso in Claude Code, Cursor o OpenClaw
https://github.com/itsmostafa/llm-engineering-skills