onnx-webgpu-converter

Convert any HuggingFace model to ONNX and run it in the browser with Transformers.js + WebGPU.

Before converting, check if the model already has an ONNX version:

Common tasks: text-generation, text-classification, feature-extraction, image-classification, automatic-speech-recognition, object-detection, image-segmentation, question-answering, token-classification, zero-shot-classification

Konvertieren Sie HuggingFace-Transformermodelle in das ONNX-Format für Browser-Inferenz mit Transformers.js und WebGPU. Verwenden Sie diese Option, wenn Sie einen HuggingFace-Modelllink zur Konvertierung in ONNX erhalten, wenn Sie „optimal-cli“ für den ONNX-Export einrichten, wenn Sie Modelle (fp16, q8, q4) für die Webbereitstellung quantisieren, wenn Sie Transformers.js mit WebGPU-Beschleunigung konfigurieren oder wenn Sie ONNX-Konvertierungsfehler beheben. Wird bei Erwähnungen von ONNX-Konvertierung, Transformers.js, WebGPU-Inferenz, optimalem Export, Modellquantisierung für Browser oder der Ausführung von ML-Modellen im Browser ausgelöst. Quelle: jakerains/agentskills.