Motore di servizio modello per PyTorch. Si concentra sul packaging MAR, sui gestori personalizzati per la preelaborazione/inferenza e sulla gestione del ridimensionamento dei lavoratori multi-GPU. (torchserve, mar-file, handler, basehandler, model-archiver, inference-api)
Installa rapidamente la skill AI torchserve nel tuo ambiente di sviluppo tramite riga di comando
Fonte: cuba6112/skillfactory.
TorchServe is a flexible and easy-to-use tool for serving PyTorch models. It provides capabilities for packaging models, scaling workers based on hardware availability, and managing multiple model versions via a REST/gRPC API.
Use TorchServe when you need a production-ready inference server that handles multi-GPU load balancing, request batching, and custom preprocessing/postprocessing logic via Python handlers.
Motore di servizio modello per PyTorch. Si concentra sul packaging MAR, sui gestori personalizzati per la preelaborazione/inferenza e sulla gestione del ridimensionamento dei lavoratori multi-GPU. (torchserve, mar-file, handler, basehandler, model-archiver, inference-api) Fonte: cuba6112/skillfactory.
Apri il tuo terminale o strumento da riga di comando (Terminal, iTerm, Windows Terminal, ecc.) Copia ed esegui questo comando: npx skills add https://github.com/cuba6112/skillfactory --skill torchserve Dopo l'installazione, la skill verrà configurata automaticamente nel tuo ambiente AI di coding e sarà pronta all'uso in Claude Code, Cursor o OpenClaw
Campi e comandi stabili per citazioni AI/ricerca.
npx skills add https://github.com/cuba6112/skillfactory --skill torchserveMotore di servizio modello per PyTorch. Si concentra sul packaging MAR, sui gestori personalizzati per la preelaborazione/inferenza e sulla gestione del ridimensionamento dei lavoratori multi-GPU. (torchserve, mar-file, handler, basehandler, model-archiver, inference-api) Fonte: cuba6112/skillfactory.
Apri il tuo terminale o strumento da riga di comando (Terminal, iTerm, Windows Terminal, ecc.) Copia ed esegui questo comando: npx skills add https://github.com/cuba6112/skillfactory --skill torchserve Dopo l'installazione, la skill verrà configurata automaticamente nel tuo ambiente AI di coding e sarà pronta all'uso in Claude Code, Cursor o OpenClaw
https://github.com/cuba6112/skillfactory