Che cos'è cuda-kernels?
Fornisce indicazioni per la scrittura e il benchmarking di kernel CUDA ottimizzati per GPU NVIDIA (H100, A100, T4) destinati alle librerie di diffusori e trasformatori HuggingFace. Supporta modelli come LTX-Video, Stable Diffusion, LLaMA, Mistral e Qwen. Include l'integrazione con HuggingFace Kernels Hub (get_kernel) per caricare kernel precompilati. Include script di benchmarking per confrontare le prestazioni del kernel con le implementazioni di base. Fonte: huggingface/kernels.