Развертывание моделей LLM и ML для вывода. Используйте при обслуживании моделей в производстве, создании API-интерфейсов искусственного интеллекта или оптимизации вывода. Охватывает vLLM (обслуживание LLM), TensorRT-LLM (оптимизация графического процессора), Ollama (локальный), BentoML (развертывание машинного обучения), Triton (мультимодель), LangChain (оркестрация), LlamaIndex (RAG) и шаблоны потоковой передачи.
Быстро установите AI-навык model-serving в вашу среду разработки через командную строку
Источник: ancoleman/ai-design-components.
Deploy LLM and ML models for production inference with optimized serving engines, streaming response patterns, and orchestration frameworks. Focuses on self-hosted model serving, GPU optimization, and integration with frontend applications.
This skill provides the backend serving layer for the ai-chat skill.
See references/langchain-orchestration.md and examples/langchain-rag-qdrant/ for complete patterns.
Развертывание моделей LLM и ML для вывода. Используйте при обслуживании моделей в производстве, создании API-интерфейсов искусственного интеллекта или оптимизации вывода. Охватывает vLLM (обслуживание LLM), TensorRT-LLM (оптимизация графического процессора), Ollama (локальный), BentoML (развертывание машинного обучения), Triton (мультимодель), LangChain (оркестрация), LlamaIndex (RAG) и шаблоны потоковой передачи. Источник: ancoleman/ai-design-components.
Стабильные поля и команды для ссылок в AI/поиске.
npx skills add https://github.com/ancoleman/ai-design-components --skill model-servingРазвертывание моделей LLM и ML для вывода. Используйте при обслуживании моделей в производстве, создании API-интерфейсов искусственного интеллекта или оптимизации вывода. Охватывает vLLM (обслуживание LLM), TensorRT-LLM (оптимизация графического процессора), Ollama (локальный), BentoML (развертывание машинного обучения), Triton (мультимодель), LangChain (оркестрация), LlamaIndex (RAG) и шаблоны потоковой передачи. Источник: ancoleman/ai-design-components.
Откройте терминал или инструмент командной строки (Terminal, iTerm, Windows Terminal и т.д.) Скопируйте и выполните эту команду: npx skills add https://github.com/ancoleman/ai-design-components --skill model-serving После установки навык будет автоматически настроен в вашей AI-среде разработки и готов к использованию в Claude Code, Cursor или OpenClaw
https://github.com/ancoleman/ai-design-components