Best practice per Universal Runtime per l'inferenza PyTorch, i modelli Transformers e il servizio FastAPI. Copre la gestione dei dispositivi, il caricamento dei modelli, l'ottimizzazione della memoria e l'ottimizzazione delle prestazioni.
Installa rapidamente la skill AI runtime-skills nel tuo ambiente di sviluppo tramite riga di comando
Fonte: llama-farm/llamafarm.
Best practices and code review checklists for the Universal Runtime - LlamaFarm's local ML inference server.
The Universal Runtime provides OpenAI-compatible endpoints for HuggingFace models:
Directory: runtimes/universal/ Python: 3.11+ Key Dependencies: PyTorch, Transformers, FastAPI, llama-cpp-python
Best practice per Universal Runtime per l'inferenza PyTorch, i modelli Transformers e il servizio FastAPI. Copre la gestione dei dispositivi, il caricamento dei modelli, l'ottimizzazione della memoria e l'ottimizzazione delle prestazioni. Fonte: llama-farm/llamafarm.
Campi e comandi stabili per citazioni AI/ricerca.
npx skills add https://github.com/llama-farm/llamafarm --skill runtime-skillsBest practice per Universal Runtime per l'inferenza PyTorch, i modelli Transformers e il servizio FastAPI. Copre la gestione dei dispositivi, il caricamento dei modelli, l'ottimizzazione della memoria e l'ottimizzazione delle prestazioni. Fonte: llama-farm/llamafarm.
Apri il tuo terminale o strumento da riga di comando (Terminal, iTerm, Windows Terminal, ecc.) Copia ed esegui questo comando: npx skills add https://github.com/llama-farm/llamafarm --skill runtime-skills Dopo l'installazione, la skill verrà configurata automaticamente nel tuo ambiente AI di coding e sarà pronta all'uso in Claude Code, Cursor o OpenClaw
https://github.com/llama-farm/llamafarm