Was die Rechnung nicht sagt

Die Summe ist selten das Problem. Wer die Abrechnung seines Modellanbieters öffnet, sieht einen Betrag, und meistens sieht er auch, dass er wächst. Das Problem beginnt bei der nächsten Frage: Wofür genau und mit welchem Impact?

Was auf der Abrechnung steht

Ein Abrechnungsexport der großen Anbieter ist erstaunlich präzise, solange man in seinen Kategorien bleibt. Er kennt in aller Regel:

• Das Modell und die Modellversion
• Eingabe-, Ausgabe- und zwischengespeicherte Tokens, jeweils getrennt bepreist
• Den Projekt- oder Organisationsschlüssel, unter dem der Aufruf lief
• Den Zeitpunkt
• Je nach Anbieter die Art des Endpunkts: Chat, Embedding, Batch

Damit lässt sich zuverlässig beantworten, welches Modell wie viel gekostet hat. Das ist eine saubere Antwort auf eine Frage, die im Haus niemand gestellt hat.

Was nicht darauf steht

Nicht enthalten ist alles, wonach im Haus tatsächlich gefragt wird:

• Welcher Ablauf den Aufruf ausgelöst hat
• Welches Team oder welche Kostenstelle dahintersteht
• Ob am Ende ein brauchbares Ergebnis stand
• Wie viele Aufrufe zu einer einzigen Nutzerhandlung gehörten
• Ob dieselbe Anfrage schon einmal beantwortet worden war

Diese fünf Felder fehlen nicht aus Nachlässigkeit. Sie existieren beim Anbieter nicht, weil er sie nicht kennen kann. Ein Ablauf ist ein Begriff aus eurem Haus und kein Feld im Protokoll einer fremden Schnittstelle.

Warum der API-Schlüssel die Lücke nicht schließt

Der übliche erste Versuch ist der Schlüssel: einer pro Team, und die Zuordnung steht. In der Praxis hält das ungefähr ein Quartal.

Schlüssel werden geteilt, weil ein Deployment schneller fertig ist als ein Freigabeprozess. Sie wandern in gemeinsame Dienste, die für mehrere Teams arbeiten, und ab da misst der Schlüssel den Dienst statt den Verursacher. Über die Qualität des Ergebnisses sagt er ohnehin nichts.

Agenten vergrößern die Lücke

Solange ein Mensch fragt und ein Modell antwortet, ist die Lücke unangenehm, aber überschaubar. Agentische Abläufe kippen das Verhältnis. Eine einzige beauftragte Aufgabe zerfällt in Planung, Werkzeugaufrufe, Zwischenprüfungen, Korrekturschleifen und eine Zusammenfassung, und jeder dieser Schritte ist ein bezahlter Aufruf.

Auf der Abrechnung erscheinen sie als unabhängige Zeilen. Sie waren aber ein Vorgang. Wer nicht am Verbrauchsort mitschreibt, bekommt sie nachträglich nicht mehr zusammen, weil die Klammer, die sie verbindet, nur zur Laufzeit existiert hat.

Kosten pro Ergebnis

Die Größe, um die es eigentlich geht, ist kein Preis pro Token, sondern ein Preis pro Ergebnis: was ein geprüfter Vertrag kostet, ein beantwortetes Ticket, ein gemergter Pull Request. Sie hat zwei Faktoren, und die Abrechnung kennt keinen davon.

Kosten je Versuch

Modellwahl, Kontextlänge, Trefferquote des Zwischenspeichers, Anzahl der Schritte im Ablauf.

Versuche je Ergebnis

Qualität der Aufgabenstellung, Abbrüche, Wiederholungen, verworfene Antworten, stille Neuversuche im Code.

Der zweite Faktor ist der teurere und der unsichtbarere. Ein Ablauf, der erst im dritten Anlauf trägt, kostet das Dreifache eines Ablaufs, der beim ersten trägt. Auf der Rechnung sehen beide identisch aus.

Schätzen und messen sind nicht dasselbe

Aus der Abrechnung lässt sich trotzdem viel herausholen: Höhe und Verlauf, der Modellmix, die Konten, die niemand mehr auf dem Schirm hatte, und eine begründete Schätzung je Ablauf, wenn man die drei oder vier Gespräche dazu führt. Genau das ist unser Kostenbild. Es braucht keinen Zugriff auf eure Systeme und ist in Tagen lieferbar.

Was es nicht liefert, sind Kosten pro Ergebnis. Das ist keine Schwäche der Arbeit, sondern eine Eigenschaft der Datenquelle. Wer eine Schätzung als Messung verkauft, liefert eine Zahl, die der Kunde ungefähr schon kannte, und verbrennt damit das zweite Gespräch.

Messen heißt: am Verbrauchsort mitschreiben, jedem Aufruf die Klammer mitgeben, die ihn zu einem Vorgang macht, und das Ergebnis daran hängen. In eurer Umgebung, denn sonst verlassen die Prompts das Haus, und die Frage, wohin sie fließen, beschäftigt jede Lieferantenprüfung mehrere Monate.

Die kürzeste Prüfung

Man braucht kein Projekt, um zu wissen, wo man steht. Eine Frage reicht:

Kommt auf den zweiten Teil ein Name, ist alles in Ordnung. Kommt eine Pause, ist nicht die Rechnung das Problem, sondern dass niemand sie verteidigen kann, sobald jemand danach fragt.