ما هي bedrock-inference؟
واجهة برمجة تطبيقات Amazon Bedrock Runtime للاستدلال على النماذج بما في ذلك نماذج Claude وNova وTitan ونماذج الجهات الخارجية. يغطي نموذج الاستدعاء، وواجهة برمجة التطبيقات العكسية، واستجابات البث، وعدد الرموز المميزة، والاستدعاء غير المتزامن، وحواجز الحماية. يُستخدم عند استدعاء النماذج الأساسية، أو إنشاء الذكاء الاصطناعي للمحادثة، أو تدفق استجابات النموذج، أو تحسين استخدام الرمز المميز، أو تنفيذ حواجز الحماية في وقت التشغيل. المصدر: adaptationio/skrillz.