Der Würfel im Kopf
Stell einem Modell zweimal exakt dasselbe, und Du kannst zwei verschiedene Antworten bekommen. Das ist kein Fehler – für jedes nächste Wort hält das Modell eine Wahrscheinlichkeitsverteilung und zieht daraus, wie ein gezinkter Würfel. Ein Regler, die Temperatur, bestimmt, wie fair oder wie gezinkt dieser Würfel ist.
Was Du siehst
Ein Balkendiagramm der Wörter, die ein Modell auf dieselbe Frage gab – dazu ein Temperatur-Regler und ein Würfeln-Knopf.
Was es zeigt
Warum dieselbe Frage verschiedene Antworten gibt: Das Modell zieht jedes Wort aus einer Wahrscheinlichkeitsverteilung – und die Temperatur bestimmt, wie fair oder gezinkt der Würfel ist.
Die Frage, jedes Mal unverändert: Im alten, seit Jahren leeren Haus roch es nach …
T → 0: fast immer nur das wahrscheinlichste Wort. T = 1: genau die gemessene Verteilung. T → 2: flacher – auch das Seltene bekommt eine echte Chance.
Noch nicht gewürfelt.
Woher die Zahlen kommen
Dieselbe Frage, 40-mal an Claude Haiku 4.5 gestellt, am 6. Juli 2026 – „Im alten, seit Jahren leeren Haus roch es nach …“. Jede Antwort ein einziges Wort, kleingeschrieben und gezählt; die Balken sind genau diese Häufigkeiten. Bewusst eine mehrdeutige Frage: Bei „Der Himmel über der Wüste ist …“ hätte das Modell fast jedes Mal „blau“ gesagt – eine langweilige Verteilung mit nur einem Balken. Der Temperatur-Regler oben ist die echte Softmax-Formel – die Rechenregel, die aus Punktzahlen Wahrscheinlichkeiten macht –, kein Nachbau. Vereinfacht ist nur eines: Ein echtes Modell würfelt nicht über eine Handvoll Wörter, sondern über Zehntausende Token-Bruchstücke.
Warum das zählt: Weil der Würfel vom Training gezinkt ist, kann eine souverän klingende Antwort trotzdem der falsche Wurf sein – darum geht es in Überzeugend falsch.