Точная настройка с эффективным использованием памяти с помощью 4-битного квантования и адаптеров LoRA. Используйте при точной настройке больших моделей (7B+) на потребительских графических процессорах, когда объем видеопамяти ограничен или когда стандартный LoRA все еще превышает объем памяти. Развивается на основе навыка Лора.
Быстро установите AI-навык qlora в вашу среду разработки через командную строку
Источник: itsmostafa/llm-engineering-skills.
QLoRA enables fine-tuning of large language models on consumer GPUs by combining 4-bit quantization with LoRA adapters. A 65B model can be fine-tuned on a single 48GB GPU while matching 16-bit fine-tuning performance.
Prerequisites: This skill assumes familiarity with LoRA. See the lora skill for LoRA fundamentals (LoraConfig, targetmodules, training patterns).
QLoRA introduces three techniques that reduce memory usage without sacrificing performance:
Точная настройка с эффективным использованием памяти с помощью 4-битного квантования и адаптеров LoRA. Используйте при точной настройке больших моделей (7B+) на потребительских графических процессорах, когда объем видеопамяти ограничен или когда стандартный LoRA все еще превышает объем памяти. Развивается на основе навыка Лора. Источник: itsmostafa/llm-engineering-skills.
Стабильные поля и команды для ссылок в AI/поиске.
npx skills add https://github.com/itsmostafa/llm-engineering-skills --skill qloraТочная настройка с эффективным использованием памяти с помощью 4-битного квантования и адаптеров LoRA. Используйте при точной настройке больших моделей (7B+) на потребительских графических процессорах, когда объем видеопамяти ограничен или когда стандартный LoRA все еще превышает объем памяти. Развивается на основе навыка Лора. Источник: itsmostafa/llm-engineering-skills.
Откройте терминал или инструмент командной строки (Terminal, iTerm, Windows Terminal и т.д.) Скопируйте и выполните эту команду: npx skills add https://github.com/itsmostafa/llm-engineering-skills --skill qlora После установки навык будет автоматически настроен в вашей AI-среде разработки и готов к использованию в Claude Code, Cursor или OpenClaw
https://github.com/itsmostafa/llm-engineering-skills