Что такое pytorch-lightning?
Высокоуровневая структура PyTorch с классом Trainer, автоматическим распределенным обучением (DDP/FSDP/DeepSpeed), системой обратных вызовов и минимальным шаблоном. Масштабируется от ноутбука до суперкомпьютера с тем же кодом. Используйте, если вам нужны чистые циклы обучения со встроенными лучшими практиками. Источник: orchestra-research/ai-research-skills.