onnx-webgpu-converter

Convert any HuggingFace model to ONNX and run it in the browser with Transformers.js + WebGPU.

Before converting, check if the model already has an ONNX version:

Common tasks: text-generation, text-classification, feature-extraction, image-classification, automatic-speech-recognition, object-detection, image-segmentation, question-answering, token-classification, zero-shot-classification

Преобразуйте модели трансформеров HuggingFace в формат ONNX для вывода в браузере с помощью Transformers.js и WebGPU. Используйте при наличии ссылки на модель HuggingFace для преобразования в ONNX, при настройке оптимального-cli для экспорта ONNX, при квантовании моделей (fp16, q8, q4) для веб-развертывания, при настройке Transformers.js с ускорением WebGPU или при устранении ошибок преобразования ONNX. Запускается при упоминании преобразования ONNX, Transformers.js, вывода WebGPU, оптимального экспорта, квантования модели для браузера или запуска моделей машинного обучения в браузере. Источник: jakerains/agentskills.