Patterns for integrating LLMs into production applications: tool use, streaming, local inference, and fine-tuning. Each category has individual rule files in rules/ loaded on-demand.
| Category | Rules | Impact | When to Use |
| Function Calling | 3 | CRITICAL | Tool definitions, parallel execution, input validation | | Streaming | 3 | HIGH | SSE endpoints, structured streaming, backpressure handling | | Local Inference | 3 | HIGH | Ollama setup, model selection, GPU optimization | | Fine-Tuning | 3 | HIGH | LoRA/QLoRA training, dataset preparation, evaluation |
أنماط تكامل LLM لاستدعاء الوظائف، واستجابات التدفق، والاستدلال المحلي باستخدام Ollama، والتخصيص الدقيق. يُستخدم عند تنفيذ استخدام الأداة، أو تدفق SSE، أو نشر النموذج المحلي، أو الضبط الدقيق لـ LoRA/QLoRA، أو واجهات برمجة تطبيقات LLM متعددة الموفرين. المصدر: yonatangross/orchestkit.