Лучшие практики универсальной среды выполнения для вывода PyTorch, моделей Transformers и обслуживания FastAPI. Охватывает управление устройствами, загрузку моделей, оптимизацию памяти и настройку производительности.
Быстро установите AI-навык runtime-skills в вашу среду разработки через командную строку
Источник: llama-farm/llamafarm.
Best practices and code review checklists for the Universal Runtime - LlamaFarm's local ML inference server.
The Universal Runtime provides OpenAI-compatible endpoints for HuggingFace models:
Directory: runtimes/universal/ Python: 3.11+ Key Dependencies: PyTorch, Transformers, FastAPI, llama-cpp-python
Лучшие практики универсальной среды выполнения для вывода PyTorch, моделей Transformers и обслуживания FastAPI. Охватывает управление устройствами, загрузку моделей, оптимизацию памяти и настройку производительности. Источник: llama-farm/llamafarm.
Стабильные поля и команды для ссылок в AI/поиске.
npx skills add https://github.com/llama-farm/llamafarm --skill runtime-skillsЛучшие практики универсальной среды выполнения для вывода PyTorch, моделей Transformers и обслуживания FastAPI. Охватывает управление устройствами, загрузку моделей, оптимизацию памяти и настройку производительности. Источник: llama-farm/llamafarm.
Откройте терминал или инструмент командной строки (Terminal, iTerm, Windows Terminal и т.д.) Скопируйте и выполните эту команду: npx skills add https://github.com/llama-farm/llamafarm --skill runtime-skills После установки навык будет автоматически настроен в вашей AI-среде разработки и готов к использованию в Claude Code, Cursor или OpenClaw
https://github.com/llama-farm/llamafarm