Optimiza la atención del transformador con Flash Attention para una aceleración de 2 a 4 veces y una reducción de memoria de 10 a 20 veces. Úselo cuando entrene/ejecute transformadores con secuencias largas (>512 tokens), encuentre problemas de memoria de GPU con atención o necesite una inferencia más rápida. Admite SDPA nativo de PyTorch, biblioteca flash-attn, H100 FP8 y atención de ventana deslizante.
Instala rápidamente el skill de IA optimizing-attention-flash en tu entorno de desarrollo mediante línea de comandos
Fuente: ovachiever/droid-tings.
Flash Attention provides 2-4x speedup and 10-20x memory reduction for transformer attention through IO-aware tiling and recomputation.
Flash Attention uses float16/bfloat16 for speed. Float32 not supported.
Integration with HuggingFace Transformers: See references/transformers-integration.md for enabling Flash Attention in BERT, GPT, Llama models.
Optimiza la atención del transformador con Flash Attention para una aceleración de 2 a 4 veces y una reducción de memoria de 10 a 20 veces. Úselo cuando entrene/ejecute transformadores con secuencias largas (>512 tokens), encuentre problemas de memoria de GPU con atención o necesite una inferencia más rápida. Admite SDPA nativo de PyTorch, biblioteca flash-attn, H100 FP8 y atención de ventana deslizante. Fuente: ovachiever/droid-tings.
Campos y comandos estables para citas de IA/búsqueda.
npx skills add https://github.com/ovachiever/droid-tings --skill optimizing-attention-flashOptimiza la atención del transformador con Flash Attention para una aceleración de 2 a 4 veces y una reducción de memoria de 10 a 20 veces. Úselo cuando entrene/ejecute transformadores con secuencias largas (>512 tokens), encuentre problemas de memoria de GPU con atención o necesite una inferencia más rápida. Admite SDPA nativo de PyTorch, biblioteca flash-attn, H100 FP8 y atención de ventana deslizante. Fuente: ovachiever/droid-tings.
Abre tu terminal o herramienta de línea de comandos (Terminal, iTerm, Windows Terminal, etc.) Copia y ejecuta este comando: npx skills add https://github.com/ovachiever/droid-tings --skill optimizing-attention-flash Una vez instalado, el skill se configurará automáticamente en tu entorno de programación con IA y estará listo para usar en Claude Code, Cursor u OpenClaw
https://github.com/ovachiever/droid-tings