llama-cpp
✓NVIDIA 하드웨어 없이 CPU, Apple Silicon 및 소비자 GPU에서 LLM 추론을 실행합니다. 엣지 배포, M1/M2/M3 Mac, AMD/Intel GPU 또는 CUDA를 사용할 수 없는 경우에 사용하세요. CPU의 PyTorch에 비해 메모리 감소 및 4~10배 속도 향상을 위해 GGUF 양자화(1.5~8비트)를 지원합니다.
SKILL.md
Pure C/C++ LLM inference with minimal dependencies, optimized for CPUs and non-NVIDIA hardware.
| Format | Bits | Size (7B) | Speed | Quality | Use Case |
| Q4KM | 4.5 | 4.1 GB | Fast | Good | Recommended default | | Q4KS | 4.3 | 3.9 GB | Faster | Lower | Speed critical | | Q5KM | 5.5 | 4.8 GB | Medium | Better | Quality critical | | Q6K | 6.5 | 5.5 GB | Slower | Best | Maximum quality | | Q80 | 8.0 | 7.0 GB | Slow | Excellent | Minimal degradation | | Q2K | 2.5 | 2.7 GB | Fastest | Poor | Testing only |
NVIDIA 하드웨어 없이 CPU, Apple Silicon 및 소비자 GPU에서 LLM 추론을 실행합니다. 엣지 배포, M1/M2/M3 Mac, AMD/Intel GPU 또는 CUDA를 사용할 수 없는 경우에 사용하세요. CPU의 PyTorch에 비해 메모리 감소 및 4~10배 속도 향상을 위해 GGUF 양자화(1.5~8비트)를 지원합니다. 출처: ovachiever/droid-tings.
인용 가능한 정보
AI/검색 인용용 안정적인 필드와 명령어.
- 설치 명령어
npx skills add https://github.com/ovachiever/droid-tings --skill llama-cpp- 카테고리
- </>개발 도구
- 인증됨
- ✓
- 최초 등록
- 2026-02-01
- 업데이트
- 2026-02-18
빠른 답변
llama-cpp이란?
NVIDIA 하드웨어 없이 CPU, Apple Silicon 및 소비자 GPU에서 LLM 추론을 실행합니다. 엣지 배포, M1/M2/M3 Mac, AMD/Intel GPU 또는 CUDA를 사용할 수 없는 경우에 사용하세요. CPU의 PyTorch에 비해 메모리 감소 및 4~10배 속도 향상을 위해 GGUF 양자화(1.5~8비트)를 지원합니다. 출처: ovachiever/droid-tings.
llama-cpp 설치 방법은?
터미널 또는 명령줄 도구(Terminal, iTerm, Windows Terminal 등)를 엽니다 이 명령어를 복사하여 실행합니다: npx skills add https://github.com/ovachiever/droid-tings --skill llama-cpp 설치 후 스킬은 자동으로 AI 코딩 환경에 설정되어 Claude Code나 Cursor에서 사용할 수 있습니다
소스 저장소는 어디인가요?
https://github.com/ovachiever/droid-tings
상세
- 카테고리
- </>개발 도구
- 출처
- skills.sh
- 최초 등록
- 2026-02-01