ما هي high-performance-inference؟
استدلال LLM عالي الأداء باستخدام vLLM، والتكميم (AWQ، وGPTQ، وFP8)، وفك تشفير المضاربة، ونشر الحافة. يُستخدم عند تحسين زمن وصول الاستدلال أو الإنتاجية أو الذاكرة. المصدر: yonatangross/orchestkit.
·high-performance-inference
</>
high-performance-inference
✓استدلال LLM عالي الأداء باستخدام vLLM، والتكميم (AWQ، وGPTQ، وFP8)، وفك تشفير المضاربة، ونشر الحافة. يُستخدم عند تحسين زمن وصول الاستدلال أو الإنتاجية أو الذاكرة.
كيفية تثبيت high-performance-inference
ثبّت مهارة الذكاء الاصطناعي high-performance-inference بسرعة في بيئة التطوير لديك عبر سطر الأوامر
- افتح الطرفية: افتح الطرفية أو أداة سطر الأوامر لديك مثل Terminal أو iTerm أو Windows Terminal
- نفّذ أمر التثبيت: انسخ ونفّذ هذا الأمر: npx skills add https://github.com/yonatangross/orchestkit --skill high-performance-inference
- تحقق من التثبيت: بعد التثبيت، سيتم إعداد المهارة تلقائيا في بيئة البرمجة بالذكاء الاصطناعي لديك وتصبح جاهزة للاستخدام في Claude Code أو Cursor أو OpenClaw
المصدر: yonatangross/orchestkit.
SKILL.md
عرض النص الخامOptimize LLM inference for production with vLLM 0.14.x, quantization, and speculative decoding.
vLLM 0.14.0 (Jan 2026): PyTorch 2.9.0, CUDA 12.9, AttentionConfig API, Python 3.12+ recommended.
| PagedAttention | Up to 24x throughput via efficient KV cache | | Continuous Batching | Dynamic request batching for max utilization | | CUDA Graphs | Fast model execution with graph capture | | Tensor Parallelism | Scale across multiple GPUs | | Prefix Caching | Reuse KV cache for shared prefixes |
استدلال LLM عالي الأداء باستخدام vLLM، والتكميم (AWQ، وGPTQ، وFP8)، وفك تشفير المضاربة، ونشر الحافة. يُستخدم عند تحسين زمن وصول الاستدلال أو الإنتاجية أو الذاكرة. المصدر: yonatangross/orchestkit.
حقائق جاهزة للاقتباس
حقول وأوامر مستقرة للاقتباس في أنظمة الذكاء الاصطناعي والبحث.
- أمر التثبيت
npx skills add https://github.com/yonatangross/orchestkit --skill high-performance-inference- المصدر
- yonatangross/orchestkit
- الفئة
- </>أدوات التطوير
- موثق
- ✓
- أول ظهور
- 2026-02-01
- آخر تحديث
- 2026-03-10
إجابات سريعة
كيف أثبّت high-performance-inference؟
افتح الطرفية أو أداة سطر الأوامر لديك مثل Terminal أو iTerm أو Windows Terminal انسخ ونفّذ هذا الأمر: npx skills add https://github.com/yonatangross/orchestkit --skill high-performance-inference بعد التثبيت، سيتم إعداد المهارة تلقائيا في بيئة البرمجة بالذكاء الاصطناعي لديك وتصبح جاهزة للاستخدام في Claude Code أو Cursor أو OpenClaw
أين مستودع المصدر؟
https://github.com/yonatangross/orchestkit
التفاصيل
- الفئة
- </>أدوات التطوير
- المصدر
- skills.sh
- أول ظهور
- 2026-02-01