runtime-skills
✓PyTorch 推理、Transformers 模型和 FastAPI 服务的通用运行时最佳实践。涵盖设备管理、模型加载、内存优化和性能调优。
SKILL.md
Best practices and code review checklists for the Universal Runtime - LlamaFarm's local ML inference server.
The Universal Runtime provides OpenAI-compatible endpoints for HuggingFace models:
Directory: runtimes/universal/ Python: 3.11+ Key Dependencies: PyTorch, Transformers, FastAPI, llama-cpp-python
PyTorch 推理、Transformers 模型和 FastAPI 服务的通用运行时最佳实践。涵盖设备管理、模型加载、内存优化和性能调优。 来源：llama-farm/llamafarm。
可引用信息
为搜索与 AI 引用准备的稳定字段与命令。
- 安装命令
npx skills add https://github.com/llama-farm/llamafarm --skill runtime-skills- 分类
- </>开发工具
- 认证
- ✓
- 收录时间
- 2026-02-01
- 更新时间
- 2026-02-18
快速解答
什么是 runtime-skills？
PyTorch 推理、Transformers 模型和 FastAPI 服务的通用运行时最佳实践。涵盖设备管理、模型加载、内存优化和性能调优。 来源：llama-farm/llamafarm。
如何安装 runtime-skills？
打开你的终端或命令行工具（如 Terminal、iTerm、Windows Terminal 等） 复制并运行以下命令：npx skills add https://github.com/llama-farm/llamafarm --skill runtime-skills 安装完成后，技能将自动配置到你的 AI 编程环境中，可以在 Claude Code 或 Cursor 中使用
这个 Skill 的源码在哪？
https://github.com/llama-farm/llamafarm
详情
- 分类
- </>开发工具
- 来源
- skills.sh
- 收录时间
- 2026-02-01