La ventana de contexto, para tocarla
Qué ves
Una conversación en fichas – y una ventana de tamaño fijo que muestra solo los últimos mensajes. El regulador alarga el chat.
Qué demuestra
Por qué los modelos parecen olvidar: lo que se sale de la ventana deja de existir para el modelo – y compactar salva lo más importante, no todo.
- Tú: ¡Hola! Una cosa antes de nada.
- Tú: 4-7-1-9 es el código de la puerta – recuérdalo, por favor.
- IA: Anotado, 4-7-1-9.
- Tú: ¿Qué tiempo hará mañana?
- IA: Variable, unos 14 grados.
- Tú: ¿Y pasado mañana?
- IA: Algo más cálido, con intervalos de sol.
- Tú: ¡Gracias! ¿Qué cocino hoy?
- IA: ¿Qué tal unas verduras al horno?
- Tú: Buena idea. ¿La lista de la compra?
- IA: Pimientos, calabacín, patatas, aceite.
Tú (ahora): ¿Y cuál era el código de la puerta?
El código de la puerta sigue en la ventana – legible.
Esta ventana de juguete cuenta mensajes – los modelos reales cuentan tokens, pequeños fragmentos de palabras. Cuántos caben varía de un modelo a otro en órdenes de magnitud. Y da igual el tamaño: una ventana más grande retrasa el desbordamiento – no lo elimina.
Justo por eso ayuda poner lo importante al final, empezar una sesión nueva o dejar que se compacte el historial – ver el artículo sobre el context rot.