يعمل على تحسين استدلال LLM باستخدام NVIDIA TensorRT لتحقيق أقصى قدر من الإنتاجية وأقل زمن وصول. يُستخدم لنشر الإنتاج على وحدات معالجة الرسومات NVIDIA (A100/H100)، عندما تحتاج إلى استدلال أسرع بمقدار 10-100 مرة من PyTorch، أو لخدمة النماذج مع التكميم (FP8/INT4)، والتجميع على متن الطائرة، وتوسيع نطاق وحدات معالجة الرسومات المتعددة.
ثبّت مهارة الذكاء الاصطناعي tensorrt-llm بسرعة في بيئة التطوير لديك عبر سطر الأوامر
المصدر: orchestra-research/ai-research-skills.
NVIDIA's open-source library for optimizing LLM inference with state-of-the-art performance on NVIDIA GPUs.
يعمل على تحسين استدلال LLM باستخدام NVIDIA TensorRT لتحقيق أقصى قدر من الإنتاجية وأقل زمن وصول. يُستخدم لنشر الإنتاج على وحدات معالجة الرسومات NVIDIA (A100/H100)، عندما تحتاج إلى استدلال أسرع بمقدار 10-100 مرة من PyTorch، أو لخدمة النماذج مع التكميم (FP8/INT4)، والتجميع على متن الطائرة، وتوسيع نطاق وحدات معالجة الرسومات المتعددة. المصدر: orchestra-research/ai-research-skills.
افتح الطرفية أو أداة سطر الأوامر لديك مثل Terminal أو iTerm أو Windows Terminal انسخ ونفّذ هذا الأمر: npx skills add https://github.com/orchestra-research/ai-research-skills --skill tensorrt-llm بعد التثبيت، سيتم إعداد المهارة تلقائيا في بيئة البرمجة بالذكاء الاصطناعي لديك وتصبح جاهزة للاستخدام في Claude Code أو Cursor أو OpenClaw
معتمدة أمنيا لكود موثوق وآمن تثبيت بنقرة واحدة مع إعداد مبسّط متوافقة مع Claude Code وCursor وOpenClaw والمزيد
حقول وأوامر مستقرة للاقتباس في أنظمة الذكاء الاصطناعي والبحث.
npx skills add https://github.com/orchestra-research/ai-research-skills --skill tensorrt-llmBrowse more skills from orchestra-research/ai-research-skills
يعمل على تحسين استدلال LLM باستخدام NVIDIA TensorRT لتحقيق أقصى قدر من الإنتاجية وأقل زمن وصول. يُستخدم لنشر الإنتاج على وحدات معالجة الرسومات NVIDIA (A100/H100)، عندما تحتاج إلى استدلال أسرع بمقدار 10-100 مرة من PyTorch، أو لخدمة النماذج مع التكميم (FP8/INT4)، والتجميع على متن الطائرة، وتوسيع نطاق وحدات معالجة الرسومات المتعددة. المصدر: orchestra-research/ai-research-skills.
افتح الطرفية أو أداة سطر الأوامر لديك مثل Terminal أو iTerm أو Windows Terminal انسخ ونفّذ هذا الأمر: npx skills add https://github.com/orchestra-research/ai-research-skills --skill tensorrt-llm بعد التثبيت، سيتم إعداد المهارة تلقائيا في بيئة البرمجة بالذكاء الاصطناعي لديك وتصبح جاهزة للاستخدام في Claude Code أو Cursor أو OpenClaw
https://github.com/orchestra-research/ai-research-skills