Kontextfenster

Das Kontextfenster ist das Arbeitsgedächtnis eines Modells: die maximale Textmenge, die es bei einer Antwort gleichzeitig berücksichtigen kann. Gemessen wird es nicht in Wörtern, sondern in sogenannten Token — kleinen Textbausteinen, die etwa einem kurzen Wort oder Wortteil entsprechen. Alles, was in dieses Fenster passt — Ihr Kontext, also Prompt und bisheriger Gesprächsverlauf —, kann das Modell heranziehen. Was nicht mehr hineinpasst, gerät außer Sicht: In sehr langen Gesprächen kann der Anfang dadurch sozusagen aus dem Gedächtnis fallen. Wichtig ist der Unterschied zum dauerhaften „Wissen“ des Modells: Das Kontextfenster ist das kurzfristige Gedächtnis für den aktuellen Austausch, während die Trainingsdaten das langfristig Gelernte bilden.