Token

Ein Token ist die kleinste Verarbeitungseinheit eines KI-Sprachmodells — meist ein Wortteil, manchmal ein ganzes Wort, ein Satzzeichen oder ein Leerzeichen. Modelle rechnen nicht in Wörtern, sondern in Token: Eingabe und Ausgabe werden darin gemessen, das Kontextfenster wird darin begrenzt, und die Abrechnung erfolgt darüber. Wer mit KI arbeitet, stößt spätestens bei der Rechnung darauf.

Kurz zusammengefasst:

• Token sind Wortteile, keine Wörter.
• Deutsch braucht mehr Token als Englisch — bei gleichem Inhalt.
• Das Kontextfenster ist die Obergrenze für Eingabe plus Ausgabe.
• Abgerechnet wird meist getrennt: Eingabe günstiger als Ausgabe.
• Faustregel Deutsch: rund 1,5 bis 2 Token je Wort.

Warum nicht in Wörtern gerechnet wird

Ein Modell zerlegt Text in häufig vorkommende Zeichenfolgen. Geläufige kurze Wörter werden zu einem Token, längere und seltenere in mehrere zerlegt. „Haus“ ist ein Token, „Auftragsverarbeitungsvertrag“ sind mehrere.

Der Vorteil: Das Verfahren kommt mit unbekannten Wörtern, Namen und Fachbegriffen zurecht, ohne ein unbegrenztes Wörterbuch zu brauchen. Der Nachteil für deutsche Anwender: Weil die Zerlegung überwiegend an englischem Material entwickelt wurde, werden deutsche Texte — mit ihren Zusammensetzungen und Umlauten — feiner zerlegt.

Praktisch heißt das: Derselbe Inhalt kostet auf Deutsch spürbar mehr als auf Englisch. Wer große Mengen verarbeitet, sollte das einkalkulieren.

Das Kontextfenster

Das Kontextfenster ist die Höchstzahl an Token, die ein Modell gleichzeitig berücksichtigen kann — Eingabe und Ausgabe zusammen. Es enthält alles: Systemanweisung, bisherigen Gesprächsverlauf, mitgegebene Dokumente und die entstehende Antwort.

Enthält	Zählt mit?
Systemanweisung	ja
bisheriger Gesprächsverlauf	ja — vollständig, bei jeder Anfrage neu
angehängte Dokumente	ja
die erzeugte Antwort	ja

Die zweite Zeile erklärt ein häufiges Ärgernis: In einem langen Gespräch wächst die Eingabe mit jeder Runde, weil der gesamte Verlauf erneut mitgeschickt wird. Kosten und Antwortzeit steigen — und irgendwann fällt der Anfang aus dem Fenster, weshalb das Modell frühere Angaben „vergisst“.

Die Gegenmaßnahme ist unspektakulär: für ein neues Thema ein neues Gespräch beginnen, statt eines endlos fortzuführen.

Kosten im Blick behalten

Abgerechnet wird üblicherweise je tausend oder je Million Token, getrennt nach Eingabe und Ausgabe — Ausgabe ist meist teurer. Was in der Praxis den Unterschied macht:

• Lange Gesprächsverläufe sind der häufigste unbemerkte Kostentreiber.
• Große angehängte Dokumente zählen vollständig mit, auch wenn nur ein Absatz gebraucht wird — hier hilft RAG, das nur passende Ausschnitte einfügt.
• Ausführliche Antworten kosten mehr; eine Längenvorgabe wirkt unmittelbar.
• Wiederholte Systemanweisungen summieren sich bei vielen Aufrufen.

Häufige Fragen

Wie viele Token hat ein Wort?

Im Deutschen etwa 1,5 bis 2 Token je Wort, im Englischen näher an 1,3. Zusammensetzungen, Fachbegriffe und Umlaute erhöhen den Wert.

Warum ist Deutsch teurer als Englisch?

Weil die Zerlegung überwiegend an englischem Material entwickelt wurde. Deutsche Wörter werden dadurch in mehr Teile zerlegt — bei gleichem Inhalt fallen mehr Token an.

Was passiert, wenn das Kontextfenster voll ist?

Je nach Anwendung wird der Anfang abgeschnitten oder zusammengefasst. Das Modell verliert dann frühere Angaben — häufig ohne Hinweis darauf.

Zählt der Gesprächsverlauf jedes Mal mit?

Ja. Bei jeder Anfrage wird der bisherige Verlauf erneut mitgeschickt. Deshalb werden lange Gespräche zunehmend teurer und langsamer.

Wie spare ich Token?

Neue Gespräche für neue Themen beginnen, nur relevante Ausschnitte statt ganzer Dokumente mitgeben, Antwortlängen vorgeben und Systemanweisungen knapp halten.

Ist ein größeres Kontextfenster immer besser?

Nicht zwangsläufig. Sehr lange Eingaben können dazu führen, dass Wichtiges in der Mitte weniger Gewicht bekommt. Gezielt ausgewähltes Material schlägt oft die vollständige Sammlung.

KI-Kosten laufen aus dem Ruder?

Meist liegt es an mitgeschleppten Gesprächsverläufen und zu großen Anhängen. Wir sehen uns an, wo die Token tatsächlich anfallen.