runtime-skills
✓PyTorch 推理、Transformers 模型和 FastAPI 服務的通用運行時最佳實踐。涵蓋設備管理、模型加載、內存優化和性能調優。
SKILL.md
Best practices and code review checklists for the Universal Runtime - LlamaFarm's local ML inference server.
The Universal Runtime provides OpenAI-compatible endpoints for HuggingFace models:
Directory: runtimes/universal/ Python: 3.11+ Key Dependencies: PyTorch, Transformers, FastAPI, llama-cpp-python
PyTorch 推理、Transformers 模型和 FastAPI 服務的通用運行時最佳實踐。涵蓋設備管理、模型加載、內存優化和性能調優。 來源：llama-farm/llamafarm。
可引用資訊
為搜尋與 AI 引用準備的穩定欄位與指令。
- 安裝指令
npx skills add https://github.com/llama-farm/llamafarm --skill runtime-skills- 分類
- </>開發工具
- 認證
- ✓
- 收錄時間
- 2026-02-01
- 更新時間
- 2026-02-18
快速解答
什麼是 runtime-skills？
PyTorch 推理、Transformers 模型和 FastAPI 服務的通用運行時最佳實踐。涵蓋設備管理、模型加載、內存優化和性能調優。 來源：llama-farm/llamafarm。
如何安裝 runtime-skills？
開啟你的終端機或命令列工具（如 Terminal、iTerm、Windows Terminal 等） 複製並執行以下指令：npx skills add https://github.com/llama-farm/llamafarm --skill runtime-skills 安裝完成後，技能將自動設定到你的 AI 程式設計環境中，可以在 Claude Code 或 Cursor 中使用
這個 Skill 的原始碼在哪？
https://github.com/llama-farm/llamafarm
詳情
- 分類
- </>開發工具
- 來源
- skills.sh
- 收錄時間
- 2026-02-01