Token

Was sind Token?

Token können als eine Art Basiseinheit betrachtet werden, durch die Texte in ihre Länge umgerechnet werden und somit auch der Preis der API bestimmt werden kann. Sie sind Gruppen von Zeichnen, die mit der Wortzahl übereinstimmen können und je nach Wortlänge auch über- oder unterschreiten können. Wie viele Token ein Text lang ist, hängt zu einem von der Anzahl der Zeichen, der Textsprache, der Verwendung von Sonderzeichen, Emojis aber auch von dem KI-Modell ab. Je nachdem, ob du ein fortschrittliches KI-Modell oder ein einfaches, schnelles Modell nutzt - kann sich die Tokenanzahl deutlich unterscheiden.

Faustregel für Sonderzeichen und Emojis

Satzzeichen (,:;?!) = 1 Token

Sonderzeichen (§√°«) = 1 bis 3 Token

Emojis (???) = 2 bis 3 Token

Ein Beispiel für das Modell: ChatGPT 3.5 von OpenAI (einfaches KI-Modell): Ein Token gilt durchschnittlich für vier Buchstaben. Je mehr Zeichen ein Text verbraucht, je höher ist der Tokenverbrauch.

OpenAI bietet einen Tokenrechner an, der dir deinen Text in Zeichen und Token umrechnet:

Der Prompt: Hallo, wie geht es dir? Enthält sowohl Satzzeichen als auch Buchstaben. Insgesamt enthält der Satz 23 Zeichen, welche in 7 Token umgerechnet werden.

Token-Konto

Bist du bereits in schulKI registriert, so erhältst du zu Beginn deiner Nutzung 100.000 Token von uns geschenkt, um die Plattform ausgiebig testen zu können. Diese Token kannst du jedoch nicht mit anderen über einen Gutschein oder Freigabeschlüssel teilen. Möchtest du nach deiner Testphase schulKI für deinen Unterricht, mit Schüler:innen und Kolleg:innen weiternutzen, bieten wir dir verschiedene Abonnements passend für deinen Gebrauch an. Mit den Abo's kannst du dein Token-Konto aufladen. Wie viele Token du aktuell zur Verfügung hast, wird dir im Dashboard angezeigt (siehe Abbildung unten).

Welche Texte und Zeichen werden für den Verbrauch berechnet?

In der Regel wird bei jeder neuen Eingabe (Prompt) der eingegebene Text und sowie der gesamte vorherige Chatverlauf neu tokenisiert und berechnet. Die KI-Modelle beziehen sich in der Regel auf den Kontext, basierend auf den vorherigen Eingaben und Antworten, im Rahmen von ca. 7 Chat-Nachrichten. Das bedeutet, bei bis zu 7 Nachrichten im Verlauf, werden die vorherigen Prompts und KI-Antworten erneut in Token mitberechnet. Hier wird erklärt, wie es funktioniert:

1. Aktuelle Eingabe (Prompt): Wenn du eine Frage stellst oder einen Text eingibst, wird dieser Text in Tokens umgewandelt. Die Anzahl der Tokens wird dann für die Abrechnungszwecke gezählt.
2. KI-Ausgabe: Die KI gibt dir eine Antwort in Textform. Auch diese wird in Token gezählt und zählt in deinen Tokenverbrauch mit hinein.
3. Erhaltung des Kontexts: Die KI behält den Kontext der Konversation durch die vorherigen Eingaben und Antworten im Rahmen ihrer maximalen Token-Grenze (bis ca. 7 Chat-Nachrichten). Dies bedeutet, dass sie sich an vorherigen Teile des Gesprächs nicht erinnern kann, sodass dieser Kontext bei weiteren Prompt-Eingaben immer wieder erneut mitgesendet werden muss und dementsprechend auch berechnet wird.
4. Kontextüberschreitung: Wenn die Gesamtlänge des Gesprächs (Ihre Eingaben plus die Antworten der KI) die maximale Token-Grenze überschreitet (ab ca. 7 Nachrichten im Chatverlauf), beginnen ältere Teile des Gesprächs aus dem unmittelbaren Kontext herauszufallen (d.h., sie werden nicht mehr für die Generierung von Antworten berücksichtigt und auch nicht mehr berechnet).

Der Tokenverbrauch auf schulKI im Detail

SchulKI arbeitet mit unterschiedlich KI's, die jeweils auch eine leistungsstärkere (aber langsamere) und eine leistungsschwächere (aber schnellere) Version enthalten. Du hast beim Chatten die Möglichkeit, zwischen den KI's zu wechseln. Wie das funktioniert und welche konkreten Vor- und Nachteile damit verbunden sind, wird dir hier genauer erklärt.

Grundsätzlich schwankt der Tokenverbrauch je nach Leistungsstärke der KI, sowie der Nutzung von Sonderfunktionen, wie Bildgenerierung oder das Erkennen von PDF-Dateien. Wie viele Token für welche Aktion und mit welcher KI konkret verbraucht werden, siehst du in dieser Übersicht:

Diese Abbildung findest du auch auf schulKI.de, wenn du auf dem Dashboard ganz nach unten scrollen.

In der Anleitung KI's in schulKI findest du zudem umfangreichere Informationen zu den einzelnen KI's und ihrem Tokenverbrauch sowie dem Wechsel zwischen KI's im Chat.