ما هي transformer-architecture؟
يُستخدم عند تنفيذ آليات الانتباه، أو إنشاء نماذج محولات مخصصة، أو فهم التشفير الموضعي، أو تحسين استدلال المحولات - يغطي الاهتمام الذاتي، والاهتمام متعدد الرؤوس، وRoPE، وALiBi، ومتغيرات الهندسة المعمارية. يُستخدم عند "،" المذكورة. المصدر: omer-metin/skills-for-antigravity.