Что такое peft-fine-tuning?
Точная настройка LLM с эффективным использованием параметров с использованием методов LoRA, QLoRA и более 25 методов. Используйте при точной настройке больших моделей (7B-70B) с ограниченной памятью графического процессора, когда вам необходимо обучить <1% параметров с минимальной потерей точности или для обслуживания нескольких адаптеров. Официальная библиотека HuggingFace интегрирована с экосистемой трансформеров. Источник: orchestra-research/ai-research-skills.