Cuando al modelo se le acaba el contexto

Un modelo de lenguaje da la impresión de acordarse de toda la conversación. No lo hace. En cada respuesta vuelve a leer un fragmento limitado – la ventana de contexto – y responde solo sobre esa base.

La ventana tiene un tamaño fijo

Puedes imaginarte la ventana de contexto como una mesa en la que solo cabe una cantidad determinada de papel. Cuando llega algo nuevo, hay que apartar algo viejo. En un chat eso significa: cuanto más larga es la conversación, antes salen los primeros mensajes de la ventana. El modelo ya no puede referirse a ellos – no porque «olvide», sino porque sencillamente ya no ve esa información.

El tamaño de esa ventana varía considerablemente según el modelo y crece con cada generación: los modelos punteros actuales como Claude Opus 4.8, GPT-5.5 o Gemini 3 admiten alrededor de un millón de tokens – trozos de palabras, los bocados de lectura de los modelos –, y los más compactos, como Claude Haiku, 200.000 (a fecha de julio de 2026). Pero una ventana más grande solo aplaza el problema; no lo elimina.

«Lost in the Middle»: la parte central sufre primero

Aunque todo quepa aún en la ventana, no todas las posiciones están igual de presentes. Los modelos aprovechan el principio y el final del contexto con más fiabilidad que la parte central. Una información importante en mitad de un texto largo se pasa por alto con más facilidad que esa misma información al principio o al final del todo. La investigación ha descrito este efecto como Lost in the Middle.

El estudio que dio nombre al efecto (Liu et al. 2023) lo midió: cuando GPT-3.5 tenía que sacar el pasaje decisivo de la parte central de 20 documentos en lugar del principio, la tasa de aciertos caía del 75,8 al 53,8 por ciento – menos de lo que el modelo sabía sin los documentos (56,1 por ciento).

Cuatro cosas que ayudan

No hace falta que entiendas la técnica para contrarrestarlo. Cuatro hábitos dan mucho de sí:

1. Sesión nueva para tema nuevo. Cuando la conversación se desvía o el modelo empieza a contradecirse, muchas veces ayuda más un chat nuevo que una corrección más. Una ventana vacía piensa con más claridad.
2. Resumir de vez en cuando. Pídele al modelo que fije el estado actual en unas pocas frases y sigue trabajando con ese resumen. Así llevas lo importante activamente a la ventana, en lugar de esperar que todavía siga dentro.
3. Lo importante, al final. Lo que cuenta ahora va en el último mensaje – no diez pasos antes. El final del contexto es el lugar más presente.
4. Dejar que compacte. Algunas herramientas resumen automáticamente el historial hasta ese momento y lo sustituyen por el resumen – en Claude Code eso se llama /compact. Suele salvar lo importante, pero rara vez cada detalle: echa después un vistazo rápido para comprobar que todo lo decisivo ha sobrevivido.

Para tocarlo

Donde mejor se entiende esto es viéndolo: una ventana de tamaño fijo que se desborda mientras la conversación crece. Justo eso puedes probarlo tú mismo en el laboratorio – con un tamaño de ventana a elegir y un modo que muestra qué salva un resumen y qué se evapora por el camino.