nebius-batch-synthetic

Run large-scale async LLM jobs at 50% cost, no rate-limit impact. Ideal for generating synthetic training datasets, annotation, evaluation sets, or any offline bulk inference.

| Max requests per file | 5,000,000 | | Max file size | 10 GB | | Completion window | 24 hours | | Cost vs real-time | 50% cheaper | | Rate limits | Not consumed |

Each line = one inference request. All requests must use the same model.

Genera dati di addestramento sintetici utilizzando l'inferenza batch di Nebius Token Factory (50% più economico rispetto al tempo reale, asincrono, senza impatto sui limiti di velocità). Utilizza questa competenza ogni volta che l'utente desidera eseguire inferenza batch su Nebius, generare set di dati sintetici su larga scala, creare dati di ottimizzazione delle istruzioni, eseguire processi LLM asincroni su set di prompt di grandi dimensioni o esportare risultati batch come JSONL di ottimizzazione. Attivazione di frasi come "generare dati sintetici con Nebius", "eseguire inferenza batch", "creare dati di addestramento su larga scala", "generazione LLM asincrona", "lavoro batch su Token Factory", "generare coppie QA" o qualsiasi domanda sull'inferenza collettiva/offline o sulle pipeline di dati sintetici su Nebius. Fonte: arindam200/nebius-skills.