Tiktokenizer · dqbd ↗
Inspiration für die direkte Gegenüberstellung von Text, farbigen Tokens und IDs. Learn to Burn ist eine eigenständige Umsetzung. Danke an dqbd und Diagram.
AUF DEN SCHULTERN GUTER IDEEN
Quellen & Inspiration
Tokens werden tatsächlich berechnet. Kontextqualität und Compacting sind bewusst vereinfachte, veränderbare Simulationen. Sie stellen keine Prognose für ein bestimmtes Modell dar. Die Preisfelder verwenden frei wählbare Beispieltarife.
gpt-tokenizer · niieani ↗
MIT-lizenzierte Tokenizer-Implementierung. GPT-2 nutzt r50k_base; GPT-4o nutzt o200k_base. Gezählt wird ausschließlich der eingegebene Text, ohne Chat-Overhead.
DeepSeek R1 & Hugging Face Tokenizers ↗
Offizielle Tokenizer-Dateien, ausgeführt mit @huggingface/tokenizers. <think> und </think> sind spezielle Tokens. Das Labor erzeugt keine Modellantworten.
Matt Pocock · AI Coding Dictionary ↗
Inspiration für die anschauliche Erklärung von Kontext, „Smart Zone“, „Dumb Zone“ und Compacting. Diese Begriffe sind didaktische Bilder, keine verbindlichen Leistungsgrenzen.
Chroma · Context Rot ↗
Untersuchung zu Leistungseinbußen bei längeren Eingaben. Ergebnisse hängen von Modell und Aufgabe ab; unsere Kurve ist keine Reproduktion der Messdaten.
Liu u. a. · Lost in the Middle (2023) ↗
Zeigt, dass Modelle Informationen am Anfang und Ende langer Kontexte verlässlicher nutzen als in der Mitte. Grundlage der Vertiefung im Kontext-Labor; neuere Modelle sind teils robuster.
Anthropic · Effective context engineering for AI agents ↗
Beschreibt die Auswahl relevanter Informationen sowie Zusammenfassungen, Notizen und weitere Ansätze zum Umgang mit begrenztem Kontext.
Was du aus dem Labor mitnehmen kannst
Ein größeres Kontextfenster garantiert keine höhere Antwortqualität. Gleichzeitig ist langer Kontext nicht grundsätzlich schlecht: Relevanz, Aufgabenstellung und Fähigkeiten des Modells zählen. Zusammenfassungen können lange Aufgaben unterstützen; Qualität und Detailtreue hängen davon ab, was erhalten bleibt und was später wieder nachgeladen werden kann.
Die Demo-Schwelle von 82%, die Kurven, Platzverhältnisse und Detailverluste sind illustrative Einstellungen. Sie dürfen nicht als allgemeine Grenzen, gemessene Intelligenz oder reale Anbieterpreise gelesen werden.
Recherche- und Implementierungsstand: 13. Oktober 2026. Bibliotheken und Lizenzhinweise sind im Projekt dokumentiert.