streaming-api-patterns

CRITICAL: Async generators can leak resources if not properly cleaned up. Python 3.10+ provides aclosing() from contextlib to guarantee cleanup.

| External API streaming (LLM, HTTP) | ✅ Always | | Database streaming results | ✅ Always | | File streaming | ✅ Always | | Simple in-memory generators | ⚠️ Optional (no cleanup needed) | | Generator with try/finally cleanup | ✅ Always |

| Server-to-Client Streaming | SSE | Simple protocol, auto-reconnect, HTTP/2 compatible | | Bidirectional Communication | WebSockets | Full-duplex, low latency, binary support | | LLM Token Streaming | ReadableStream + SSE | Backpressure control, standard format | | Reconnection Strategy | Exponential Backoff | Prevents thundering herd, graceful recovery |

تدفق البيانات في الوقت الفعلي باستخدام SSE وWebSockets وReadableStream. يُستخدم عند تنفيذ استجابات البث، أو تحديثات البيانات في الوقت الفعلي، أو الأحداث المرسلة من الخادم، أو إعداد WebSocket، أو الإشعارات المباشرة، أو التحديثات الفورية، أو الواجهات الخلفية لخادم الدردشة. المصدر: yonatangross/orchestkit.