Was Tokens im Alltag bedeuten
Ein Wort wie „Haus“ ist oft ein einziges Token, ein langes zusammengesetztes Wort wie „Wärmepumpenförderungsantrag“ wird dagegen in mehrere Stücke zerlegt. Deutsche Texte brauchen deshalb in der Regel mehr Tokens als gleich lange englische.
Ein Steuerberatungsbüro lässt über eine API automatisch Mandantenmails zusammenfassen. Jede Mail und jede Zusammenfassung verbraucht Tokens, die monatlich abgerechnet werden. Bei ein paar hundert Mails im Monat sind die Kosten meist überschaubar, bei langen Dokumenten und großen Mengen lohnt sich ein Blick auf die Abrechnung.
Warum KMU Tokens kennen sollten
Bei fertigen Produkten mit Monatspreis spielt die Token-Rechnung für Sie kaum eine Rolle. Wer aber eigene Automatisierungen mit Sprachmodellen baut, sollte verstehen, dass lange Eingaben, ausführliche Antworten und leistungsstarke Modelle mehr kosten. Eine gute Planung hält die laufenden Kosten im Rahmen.
Einen Überblick über Kosten gibt der Ratgeber Was kostet KI?. Wie Sprachmodelle grundsätzlich arbeiten, erklärt der Eintrag Large Language Model; Anbindungen an eigene Abläufe beschreibt KI-Automatisierung.
Sehen Sie, wie ein KI-Chatbot mit den Inhalten Ihrer Website antwortet. Danach 30 Tage gratis.
Häufige Fragen
Wie viele Tokens hat ein Text?
Das hängt vom Modell und von der Sprache ab, weil jeder Anbieter Texte etwas anders zerlegt. Als grobe Orientierung entspricht ein Token oft einem kurzen Wort oder einem Wortteil; deutsche Texte ergeben meist mehr Tokens als englische. Viele Anbieter stellen Werkzeuge bereit, mit denen Sie die genaue Zahl für einen Beispieltext ermitteln können.
Was ist ein Kontextfenster?
Das Kontextfenster ist die maximale Menge an Tokens, die ein Sprachmodell in einem Durchgang berücksichtigen kann, also Eingabe, bisheriger Gesprächsverlauf und Antwort zusammen. Ist ein Dokument zu lang, muss es aufgeteilt oder nur in Ausschnitten übergeben werden. Moderne Modelle haben große Kontextfenster, die für die meisten Büroaufgaben gut ausreichen.