llm-integration

SKILL.md

Patterns for integrating LLMs into production applications: tool use, streaming, local inference, and fine-tuning. Each category has individual rule files in rules/ loaded on-demand.

| Category | Rules | Impact | When to Use |

| Function Calling | 3 | CRITICAL | Tool definitions, parallel execution, input validation | | Streaming | 3 | HIGH | SSE endpoints, structured streaming, backpressure handling | | Local Inference | 3 | HIGH | Ollama setup, model selection, GPU optimization | | Fine-Tuning | 3 | HIGH | LoRA/QLoRA training, dataset preparation, evaluation |

함수 호출, 스트리밍 응답, Ollama를 통한 로컬 추론 및 미세 조정 사용자 정의를 위한 LLM 통합 패턴입니다. 도구 사용, SSE 스트리밍, 로컬 모델 배포, LoRA/QLoRA 미세 조정 또는 다중 공급자 LLM API를 구현할 때 사용합니다. 출처: yonatangross/orchestkit.

원본 보기