funsloth-train

SKILL.md

| Model | unsloth/llama-3.1-8b-unsloth-bnb-4bit | Good balance | | Max seq length | 2048 | Covers most use cases | | Load in 4-bit | True | 70% VRAM reduction | | LoRA rank | 16 | Good trade-off | | Batch size | 2 | Works on 8GB+ VRAM | | Gradient accumulation | 4 | Effective batch of 8 | | Learning rate | 2e-4 | Unsloth recommended |

Ask questions in order. See MODELSELECTION.md for model options and TRAININGMETHODS.md for technique details.

Generate a notebook with interactive configuration widgets. Users select options at runtime.

Erstellen Sie Unsloth-Trainingsnotizbücher und -Skripte. Verwenden Sie diese Option, wenn der Benutzer ein Schulungsnotizbuch erstellen, Feinabstimmungsparameter konfigurieren oder ein SFT/DPO/GRPO-Training einrichten möchte. Quelle: chrisvoncsefalvay/funsloth.

Original anzeigen