Wenn dem Modell der Kontext ausgeht

Ein Sprachmodell wirkt, als würde es sich an das ganze Gespräch erinnern. Das tut es nicht. Es liest bei jeder Antwort einen begrenzten Ausschnitt – das Kontextfenster – neu ein und antwortet nur auf dieser Grundlage.

Das Fenster hat eine feste Größe

Man kann sich das Kontextfenster wie einen Tisch vorstellen, auf dem nur eine bestimmte Menge Papier Platz hat. Kommt Neues dazu, muss Altes weichen. In einem Chat heißt das: Je länger das Gespräch, desto eher rutschen die frühen Nachrichten aus dem Fenster. Das Modell kann sich dann nicht mehr darauf beziehen – nicht, weil es „vergisst“, sondern weil es die Information schlicht nicht mehr sieht.

Wie groß dieses Fenster ist, unterscheidet sich je Modell erheblich und wächst mit jeder Generation: Aktuelle Spitzenmodelle wie Claude Opus 4.8, GPT-5.5 oder Gemini 3 nehmen rund eine Million Tokens – Wortstücke, die Lese-Häppchen der Modelle – auf, kompaktere Modelle wie Claude Haiku 200.000 (Stand: Juli 2026). Ein größeres Fenster verschiebt das Problem aber nur nach hinten; es schafft es nicht ab.

„Lost in the Middle“: die Mitte leidet zuerst

Selbst wenn alles noch ins Fenster passt, sind nicht alle Stellen gleich präsent. Modelle nutzen den Anfang und das Ende des Kontexts zuverlässiger als die Mitte. Eine wichtige Information mitten in einem langen Text wird eher übersehen als dieselbe Information ganz oben oder ganz unten. In der Forschung ist dieser Effekt als Lost in the Middle beschrieben.

Die Studie, die dem Effekt den Namen gab (Liu et al. 2023), hat ihn vermessen: Musste GPT-3.5 die entscheidende Passage aus der Mitte von 20 Dokumenten holen statt vom Anfang, fiel die Trefferquote von 75,8 auf 53,8 Prozent – weniger, als das Modell ganz ohne die Dokumente wusste (56,1 Prozent).

Vier Dinge, die helfen

Du musst die Technik nicht verstehen, um gegenzusteuern. Vier Gewohnheiten reichen weit:

1. Neue Session bei neuem Thema. Wenn das Gespräch abdriftet oder das Modell anfängt, sich zu widersprechen, hilft oft ein frischer Chat mehr als noch eine Korrektur. Ein leeres Fenster denkt klarer.
2. Zwischendurch zusammenfassen. Bitte das Modell, den Stand in ein paar Sätzen festzuhalten, und arbeite mit dieser Zusammenfassung weiter. So trägst Du das Wichtige aktiv ins Fenster, statt zu hoffen, dass es noch drinsteht.
3. Wichtiges ans Ende. Was jetzt zählt, gehört in die letzte Nachricht – nicht zehn Schritte vorher. Das Ende des Kontexts ist die präsenteste Stelle.
4. Kompaktieren lassen. Manche Werkzeuge fassen den bisherigen Verlauf automatisch zusammen und ersetzen ihn durch die Zusammenfassung – in Claude Code heißt das /compact. Das rettet meist das Wichtige, aber selten jedes Detail: Wirf danach einen kurzen Blick darauf, ob alles Entscheidende überlebt hat.

Zum Anfassen

Am anschaulichsten wird das, wenn man es sieht: ein Fenster fester Größe, das überläuft, während das Gespräch wächst. Genau das kannst Du im Labor zum Anfassen selbst ausprobieren – mit wählbarer Fenstergröße und einem Modus, der zeigt, was eine Zusammenfassung rettet und was dabei verdunstet.