·long-context

Amplíe las ventanas de contexto de los modelos de transformadores utilizando RoPE, YaRN, ALiBi y técnicas de interpolación de posición. Úselo al procesar documentos largos (32k-128k+ tokens), extender modelos previamente entrenados más allá de los límites del contexto original o implementar codificaciones posicionales eficientes. Cubre incrustaciones rotativas, sesgos de atención, métodos de interpolación y estrategias de extrapolación para LLM.

14Instalaciones·0Tendencia·@orchestra-research

Instalación

$npx skills add https://github.com/orchestra-research/ai-research-skills --skill long-context

SKILL.md

Key Techniques: RoPE (Rotary Position Embeddings), YaRN, ALiBi (Attention with Linear Biases), Position Interpolation

Papers: RoFormer (arXiv 2104.09864), YaRN (arXiv 2309.00071), ALiBi (arXiv 2108.12409), Position Interpolation (arXiv 2306.15595)

| Method | Max Context | Training Needed | Memory | Extrapolation | Best For |

Amplíe las ventanas de contexto de los modelos de transformadores utilizando RoPE, YaRN, ALiBi y técnicas de interpolación de posición. Úselo al procesar documentos largos (32k-128k+ tokens), extender modelos previamente entrenados más allá de los límites del contexto original o implementar codificaciones posicionales eficientes. Cubre incrustaciones rotativas, sesgos de atención, métodos de interpolación y estrategias de extrapolación para LLM. Fuente: orchestra-research/ai-research-skills.

Ver original

Datos (listos para citar)

Campos y comandos estables para citas de IA/búsqueda.

Comando de instalación
npx skills add https://github.com/orchestra-research/ai-research-skills --skill long-context
Categoría
</>Desarrollo
Verificado
Primera vez visto
2026-02-11
Actualizado
2026-02-18

Respuestas rápidas

¿Qué es long-context?

Amplíe las ventanas de contexto de los modelos de transformadores utilizando RoPE, YaRN, ALiBi y técnicas de interpolación de posición. Úselo al procesar documentos largos (32k-128k+ tokens), extender modelos previamente entrenados más allá de los límites del contexto original o implementar codificaciones posicionales eficientes. Cubre incrustaciones rotativas, sesgos de atención, métodos de interpolación y estrategias de extrapolación para LLM. Fuente: orchestra-research/ai-research-skills.

¿Cómo instalo long-context?

Abre tu terminal o herramienta de línea de comandos (Terminal, iTerm, Windows Terminal, etc.) Copia y ejecuta este comando: npx skills add https://github.com/orchestra-research/ai-research-skills --skill long-context Una vez instalado, el skill se configurará automáticamente en tu entorno de programación con IA y estará listo para usar en Claude Code o Cursor

¿Dónde está el repositorio de origen?

https://github.com/orchestra-research/ai-research-skills