Kosten pro Token

„Cost Per Token“ ist der Preis, den Sie für jede Texteinheit zahlen, die ein KI-Modell verarbeitet. Ein Token ist in der Regel ein Textabschnitt von etwa 4 Zeichen oder 0,75 Wörtern. Bei der Nutzung generativer KI-Dienste wie ChatGPT, Claude oder GPT-4 zahlen Sie pro verarbeitetem Token, sowohl für die von Ihnen gestellte Frage (Input) als auch für die Antwort, die Sie erhalten (Output). Für einen KMU-Unternehmer, der KI-Tools für den Kundenservice, die Erstellung von Inhalten oder die Prozessautomatisierung einsetzt, ist dies der wichtigste Kostenfaktor.

Wie Cost Per Token in der Praxis funktioniert

Jedes Mal, wenn Sie einem KI-Modell eine Frage stellen, zählt das System, wie viele Token Ihre Frage enthält. Dann generiert das Modell eine Antwort und zählt auch diese Token. Bei OpenAI zum Beispiel kostet GPT-4 etwa 0,03 € pro 1.000 Eingabe-Token und 0,06 € pro 1.000 Ausgabe-Token. Angenommen, Sie fragen nach einer Produktbeschreibung mit 500 Wörtern (etwa 670 Token) und die Antwort lautet 200 Wörter (270 Token). Dann zahlen Sie für 670 Input-Token und 270 Output-Token. Die meisten KI-Automatisierungsplattformen zeigen Ihnen in Echtzeit an, wie viele Token eine Aktion kostet, so dass Sie Ihre Budgets überwachen können. In n8n oder Make.com können Sie Grenzen pro Workflow festlegen, um unerwartete Kosten zu vermeiden.

Warum Cost Per Token jetzt für KMU relevant ist

Seit Ende 2022 sind generative KI-Modelle auch für Unternehmen ohne eigenes Data-Science-Team zugänglich geworden. Das macht KI-Automatisierung skalierbar, aber auch kostenintensiv. Viele KMU beginnen mit einem Chatbot, einem E-Mail-Generator oder einem Tool zur Produktbeschreibung, ohne zuvor zu berechnen, wie viele Tokens sie monatlich verarbeiten. In der Praxis sehen wir Unternehmen, deren API-Kosten innerhalb eines Monats von 50 € auf 800 € steigen, weil sie lange Kontexte oder viele Wiederholungen in ihren Prompts verwenden. Die Kosten pro Token bilden daher die Grundlage für eine tragfähige KI-Strategie: Man weiß, was man ausgibt und wo man optimieren kann.

Was Cost Per Token für Ihr Unternehmen bedeutet

Wenn Sie die Kosten pro Token verstehen, können Sie KI-Anwendungen budgetieren, wie Sie es mit Anzeigen oder Hosting tun. Sie können ein günstigeres Modell für einfache Aufgaben (GPT-3,5 statt GPT-4) und ein teureres Modell für komplexe Analysen wählen. Sie können Eingabeaufforderungen verkürzen, indem Sie unnötigen Kontext weglassen, oder die Ausgabe begrenzen, indem Sie dem Modell eine maximale Länge vorgeben. In einem KI-Automatisierungsprojekt helfen wir unseren Kunden, ihre Arbeitsabläufe im Hinblick auf den Token-Verbrauch zu optimieren. So bleibt KI auch bei hohem Volumen rentabel. Weitere Informationen zur Verwendung von Token finden Sie in der OpenAI API-Dokumentation.

Cost Per Token ist nicht nur ein technisches Detail, sondern ein Steuerungsinstrument. Sobald Sie wissen, was eine Interaktion kostet, können Sie KI-Anwendungen entwerfen, die skalierbar und verwaltbar sind. Im Folgenden finden Sie vier Beispiele aus der Praxis, in denen KMUs Cost Per Token aktiv nutzen, um ihr KI-Budget im Griff zu behalten.

Chatbots für den Kundenservice mit begrenztem Budget

Ein Webshop mit 200 Kundenanfragen pro Tag kann einen KI-Chatbot einsetzen, um häufig gestellte Fragen zu beantworten. Wenn für jede Frage durchschnittlich 150 Token eingegeben und 200 Token ausgegeben werden müssen, werden pro Tag 70.000 Token verarbeitet. Bei 0,06 € pro 1.000 Token ergeben sich 4,20 € pro Tag bzw. 126 € pro Monat. Wenn Sie den Chatbot mit kürzeren Antworten oder einem günstigeren Modell für Standardfragen konfigurieren, können Sie diesen Betrag auf 60 € senken. In der Praxis haben wir gesehen, dass Unternehmen ihre Kosten pro Token durch intelligentes Prompt-Engineering und Modellauswahl um 40 % senken konnten.

Erstellung von Inhalten für Produktbeschreibungen

Ein B2B-Großhändler mit 1.500 Produkten möchte einzigartige Beschreibungen erstellen lassen. Jede Beschreibung erfordert 300 Token Input (Produktspezifikationen) und 400 Token Output. Das sind insgesamt 1.050.000 Token, oder 63 € zum GPT-4-Preis. Durch Verkürzung der Eingabe auf relevante Merkmale und Begrenzung der Ausgabe auf 250 Wörter sinken die Kosten pro Token um 30 %. So bleibt die Erstellung von KI-Inhalten auch für Unternehmen mit Tausenden von SKUs machbar. Dies ist eine gängige Anwendung im Rahmen einer SEO-Strategie für Online-Shops.

E-Mail-Automatisierung mit personalisierten Antworten

Eine Buchhaltungsfirma erhält täglich 50 E-Mails mit Fragen zu Mehrwertsteuer, Lohnsteuer und Jahresabschlüssen. Ein KI-Agent liest die E-Mail, ruft den Kontext aus einer Wissensdatenbank ab und erstellt einen Antwortentwurf. Jede E-Mail kostet durchschnittlich 800 Token (einschließlich Kontext). Das sind 40.000 Token pro Tag oder 2,40 €. Indem Sie nur relevante Passagen aus der Wissensdatenbank anstelle ganzer Dokumente versenden, halbieren Sie den Token-Verbrauch. So bleibt der agenturgestützte Arbeitsablauf auch bei täglicher Bearbeitung erschwinglich.

Wann Cost Per Token der richtige Fokus ist und wann nicht

Die Kosten pro Token sind entscheidend, wenn Sie KI-Anwendungen täglich oder stündlich nutzen, z. B. Chatbots, E-Mail-Verarbeitung oder Echtzeit-Analysen. Dann zahlt sich die Optimierung sofort aus. Wenn Sie KI jedoch nur gelegentlich für einen einmaligen Bericht oder eine Brainstorming-Sitzung verwenden, überwiegt die Zeit, die Sie in die Optimierung investieren, die Einsparungen. In diesen Fällen ist es klüger, sich für ein benutzerfreundliches Modell zu entscheiden und die Kosten in Kauf zu nehmen. Unser Rat: Überwachen Sie Ihren monatlichen Token-Verbrauch und beginnen Sie erst dann mit der Optimierung, wenn Sie 200 € pro Monat überschreiten oder ein schnelles Wachstum erwarten.