model-serving
✓추론을 위한 LLM 및 ML 모델 배포. 프로덕션에서 모델을 제공하거나 AI API를 구축하거나 추론을 최적화할 때 사용하세요. vLLM(LLM 제공), TensorRT-LLM(GPU 최적화), Ollama(로컬), BentoML(ML 배포), Triton(다중 모델), LangChain(오케스트레이션), LlamaIndex(RAG) 및 스트리밍 패턴을 다룹니다.
SKILL.md
Deploy LLM and ML models for production inference with optimized serving engines, streaming response patterns, and orchestration frameworks. Focuses on self-hosted model serving, GPU optimization, and integration with frontend applications.
This skill provides the backend serving layer for the ai-chat skill.
See references/langchain-orchestration.md and examples/langchain-rag-qdrant/ for complete patterns.
추론을 위한 LLM 및 ML 모델 배포. 프로덕션에서 모델을 제공하거나 AI API를 구축하거나 추론을 최적화할 때 사용하세요. vLLM(LLM 제공), TensorRT-LLM(GPU 최적화), Ollama(로컬), BentoML(ML 배포), Triton(다중 모델), LangChain(오케스트레이션), LlamaIndex(RAG) 및 스트리밍 패턴을 다룹니다. 출처: ancoleman/ai-design-components.
인용 가능한 정보
AI/검색 인용용 안정적인 필드와 명령어.
- 설치 명령어
npx skills add https://github.com/ancoleman/ai-design-components --skill model-serving- 카테고리
- </>개발 도구
- 인증됨
- ✓
- 최초 등록
- 2026-02-01
- 업데이트
- 2026-02-18
빠른 답변
model-serving이란?
추론을 위한 LLM 및 ML 모델 배포. 프로덕션에서 모델을 제공하거나 AI API를 구축하거나 추론을 최적화할 때 사용하세요. vLLM(LLM 제공), TensorRT-LLM(GPU 최적화), Ollama(로컬), BentoML(ML 배포), Triton(다중 모델), LangChain(오케스트레이션), LlamaIndex(RAG) 및 스트리밍 패턴을 다룹니다. 출처: ancoleman/ai-design-components.
model-serving 설치 방법은?
터미널 또는 명령줄 도구(Terminal, iTerm, Windows Terminal 등)를 엽니다 이 명령어를 복사하여 실행합니다: npx skills add https://github.com/ancoleman/ai-design-components --skill model-serving 설치 후 스킬은 자동으로 AI 코딩 환경에 설정되어 Claude Code나 Cursor에서 사용할 수 있습니다
소스 저장소는 어디인가요?
https://github.com/ancoleman/ai-design-components
상세
- 카테고리
- </>개발 도구
- 출처
- skills.sh
- 최초 등록
- 2026-02-01