optimizing-attention-flash
✓2~4배 속도 향상 및 10~20배 메모리 감소를 위한 Flash Attention으로 변환기 주의를 최적화합니다. 긴 시퀀스(512개 이상의 토큰)로 변환기를 훈련/실행하거나, GPU 메모리 문제가 주의 깊게 발생하거나, 더 빠른 추론이 필요한 경우에 사용합니다. PyTorch 기본 SDPA, 플래시 attn 라이브러리, H100 FP8 및 슬라이딩 윈도우 어텐션을 지원합니다.
SKILL.md
Flash Attention provides 2-4x speedup and 10-20x memory reduction for transformer attention through IO-aware tiling and recomputation.
Flash Attention uses float16/bfloat16 for speed. Float32 not supported.
Integration with HuggingFace Transformers: See references/transformers-integration.md for enabling Flash Attention in BERT, GPT, Llama models.
2~4배 속도 향상 및 10~20배 메모리 감소를 위한 Flash Attention으로 변환기 주의를 최적화합니다. 긴 시퀀스(512개 이상의 토큰)로 변환기를 훈련/실행하거나, GPU 메모리 문제가 주의 깊게 발생하거나, 더 빠른 추론이 필요한 경우에 사용합니다. PyTorch 기본 SDPA, 플래시 attn 라이브러리, H100 FP8 및 슬라이딩 윈도우 어텐션을 지원합니다. 출처: orchestra-research/ai-research-skills.
인용 가능한 정보
AI/검색 인용용 안정적인 필드와 명령어.
- 설치 명령어
npx skills add https://github.com/orchestra-research/ai-research-skills --skill optimizing-attention-flash- 카테고리
- </>개발 도구
- 인증됨
- ✓
- 최초 등록
- 2026-02-11
- 업데이트
- 2026-02-18
빠른 답변
optimizing-attention-flash이란?
2~4배 속도 향상 및 10~20배 메모리 감소를 위한 Flash Attention으로 변환기 주의를 최적화합니다. 긴 시퀀스(512개 이상의 토큰)로 변환기를 훈련/실행하거나, GPU 메모리 문제가 주의 깊게 발생하거나, 더 빠른 추론이 필요한 경우에 사용합니다. PyTorch 기본 SDPA, 플래시 attn 라이브러리, H100 FP8 및 슬라이딩 윈도우 어텐션을 지원합니다. 출처: orchestra-research/ai-research-skills.
optimizing-attention-flash 설치 방법은?
터미널 또는 명령줄 도구(Terminal, iTerm, Windows Terminal 등)를 엽니다 이 명령어를 복사하여 실행합니다: npx skills add https://github.com/orchestra-research/ai-research-skills --skill optimizing-attention-flash 설치 후 스킬은 자동으로 AI 코딩 환경에 설정되어 Claude Code나 Cursor에서 사용할 수 있습니다
소스 저장소는 어디인가요?
https://github.com/orchestra-research/ai-research-skills
상세
- 카테고리
- </>개발 도구
- 출처
- skills.sh
- 최초 등록
- 2026-02-11