Langfuse skaliert seine Cloud-Abrechnung mit Stripe und erfasst dabei Milliarden von Events –

Langfuse entwickelt eine Open-Source-Plattform zur Beobachtung von LLM, die Ingenieurteams dabei unterstützt, KI-Anwendungen zu verfolgen, zu bewerten und zu überwachen. Durch die Nutzung der nutzungsbasierten Funktionen und der zugehörigen APIs von Stripe Billing hat Langfuse ein hybrides Abo- und Abrechnungsmodell implementiert, das Kundinnen und Kunden präzise Rechnungen stellt und gestaffelte Volumenpreise unterstützt.

Lösungen im Einsatz

    Billing
    Payments
    Checkout
    Tax
Global
Start-up

Die Herausforderung

Langfuse musste sein Open-Source-Engagement mit einem nachhaltigen Cloud-Geschäftsmodell in Einklang bringen. Da jede Person die Software kostenlos selbst hosten kann, musste das Cloud-Angebot wettbewerbsfähig bepreist, leicht verständlich und am Kundennutzen ausgerichtet sein. Zunächst setzte Langfuse auf ein selbst entwickeltes Abrechnungssystem mit einem einfachen Pauschalpreis pro Event. Dieses Modell konnte jedoch weder die erforderliche Preisflexibilität noch die präzise Verbrauchserfassung unterstützen, die das Unternehmen im Zuge seines Wachstums benötigte.

Mit zunehmendem Wachstum wurde deutlich, dass Langfuse gestaffelte Preise pro Event sowie abgestufte monatliche Pläne benötigte, damit die Preise mit der Nutzung wachsen und Mengenrabatte widerspiegeln. Die Kundinnen und Kunden reichen von Accounts mit 100.000 Events pro Monat bis hin zu mehreren hundert Millionen, wobei jedes Event für Langfuse marginale Kosten verursacht. Das Unternehmen wollte automatische Mengenrabatte einführen, damit sich die Preise skalieren lassen, ohne individuelle Vertragsverhandlungen führen zu müssen.

Das Team sah sich auch mit mehreren Sonderfällen bei der Abrechnung konfrontiert. An der Kasse wurde manchmal ein Betrag von 0 USD angezeigt, da die Nutzung nachträglich abgerechnet wird, was für Verwirrung bei den Kundinnen und Kunden sorgte. Für Testzeiträume für Unternehmen mussten Zahlungsdaten im Voraus hinterlegt werden, doch war dies beim Standard-Bezahlvorgang nicht möglich. Planänderungen konnten den aktuellen Abrechnungszyklus beenden, wodurch Kundinnen und Kunden ihre im Voraus bezahlten Tage verloren. Langfuse benötigte außerdem zuverlässige Tools und Tests für komplexe Upgrade- oder Downgrade-Vorgänge und wünschte sich Ausgabenbenachrichtigungen, die in Dollarbeträgen statt in Ereigniszahlen ausgedrückt wurden. Gleichzeitig benötigte Langfuse einen zuverlässigen Ansatz zur Wiederherstellung fehlgeschlagener Zahlungen ohne manuelle Einzüge sowie eine einheitliche globale Lösung für Steuern und Zahlungen, um Kundinnen und Kunden in verschiedenen Regionen abrechnen zu können.

Die Lösung

Um eine zuverlässige, skalierbare nutzungsbasierte Abrechnung zu ermöglichen, die Nutzung mit Wertschöpfung verknüpft, hat Langfuse ein Hybridmodell mit der nutzungsbasierten Abrechnung von Stripe Billing implementiert. Kundinnen und Kunden abonnieren gestaffelte Monatspläne und jedes Abo umfasst ein separates Langfuse Cloud-Produkt zur Nutzungsmessung, das Ereignisse aufzeichnet. Die gestaffelten Tarife sind auf unterschiedliche Bedürfnisse der Kundinnen und Kunden zugeschnitten, während das nutzungsabhängige Produkt die Ereigniserfassung über alle Tarife hinweg konsistent verfolgt, sodass die Preise sich nach der Nutzung richten. Langfuse übermittelt stündliche Ereigniszahlen aus seinem ClickHouse/OLAP-Datenspeicher an die nutzungsabhängige API von Stripe, um eine genaue Abrechnung mit nahezu Echtzeit-Transparenz zu ermöglichen.

Das Team entschied sich für Stripe Checkout, um Abos zu erstellen, sowie für Stripe Billing, um eine einzelne Rechnung mit separaten Posten zu erzeugen: die im Voraus berechnete SaaS-Gebühr (zu Beginn des Abrechnungszeitraums fällig) und die nutzungsabhängigen Gebühren am Ende des Zeitraums. Dadurch werden Bezahlvorgänge mit 0 USD vermieden und Verwirrung bei Kundinnen und Kunden reduziert, während gleichzeitig Zahlungsdaten bei der Registrierung erfasst werden, um Enterprise-Beschaffungsanforderungen zu erfüllen. Mit Abonnementplänen und Kontrollmechanismen für anteilmäßige Verrechnung von Stripe kann Langfuse Upgrades sofort anwenden und zugleich die angesammelte Nutzung beibehalten. Downgrades lassen sich so planen, dass der bezahlte Zugriff bis zum Ende des aktuellen Abrechnungszeitraums bestehen bleibt.

Da die nativen Benachrichtigungen nicht den dollarbasierten Anforderungen von Langfuse entsprachen, nutzt das Team die Vorschau-Rechnungsfunktion von Stripe stündlich, um das Dollar-Risiko zu berechnen. Wenn die Schwellenwerte für Kundinnen und Kunden überschritten werden, löst das System E-Mail- und In-App-Benachrichtigungen aus. Webhooks synchronisieren den Status des Abos und der Zahlung mit dem Produkt von Langfuse. Für Analysen und Abgleiche synchronisiert Langfuse die Stripe-Daten über Airbyte mit BigQuery und kombiniert sie mit Produktanalysen (dbt, Metabase). Operative Webhook-Ereignisse werden ebenfalls an einen Slack-Kanal weitergeleitet, um Echtzeit-Transparenz zu gewährleisten.

Zur Wiedergewinnung von abgelehnten Zahlungen nutzt Langfuse die integrierte automatische Wiederholungslogik sowie Folge-E-Mails von Stripe anstelle manueller Einzugsprozesse. Das Team überwacht fehlgeschlagene Zahlungen im Stripe Dashboard und synchronisiert den Abo-Status („past_due“, „nicht bezahlt“) per Webhooks, um In-App-Banner anzuzeigen, die Kundinnen und Kunden zur Aktualisierung ihrer Zahlungsdaten auffordern.

Für das globale Steuermanagement verwendet Langfuse Stripe Tax zusammen mit der globalen Zahlungsplattform von Stripe. Diese berechnet anfallende Steuern, unterstützt lokale Zahlungsmethoden und ermöglicht eine einheitliche Integration für die grenzüberschreitende Abrechnung.

Die Ergebnisse

Klare Preisgestaltung und automatisierte Mengenrabatte

Langfuse implementierte innerhalb von zwei Wochen ein klares hybrides Modell: eine im Voraus berechnete SaaS-Gebühr plus gestaffelte, nutzungsabhängige Event-Gebühren über Stripe. Die abgestuften Preisstufen greifen automatisch, wenn die Nutzung steigt, sodass individuelle Verhandlungen über Mengenrabatte entfallen.

Upgrades werden sofort anteilmäßig verrechnet, bei durchgehender Nutzung

Mithilfe von Abonnementplänen und flexibler Abrechnung von Stripe werden Upgrades anteilig berechnet und die entsprechenden Beträge unmittelbar in Rechnung gestellt, während die angesammelte Nutzung und der Fortschritt innerhalb der Preisstufen erhalten bleiben. Downgrades werden so terminiert, dass sie erst zum Ende des Abrechnungszeitraums wirksam werden, sodass Kundinnen und Kunden bis dahin weiterhin Zugriff auf die bezahlten Funktionen behalten.

Stripe verarbeitet nutzungsbasierte Abrechnung im großen Maßstab

Langfuse übermittelt stündlich Event-Zählungen an die Metered-Usage-API von Stripe und verwaltet dabei bis zu 200 Millionen Events pro Monat für einzelne Accounts sowie mehrere Hundert Millionen bis Milliarden Events über alle Kundinnen und Kunden hinweg. Die nutzungsbasierte Abrechnung stellt sicher, dass die Nutzung über Stripe erfasst und in Rechnung gestellt wird.

Ausgabenwarnungen auf Dollarbasis mit Vorschau-Rechnungen

Langfuse erstellt stündlich Vorschau-Rechnungen über Stripe und vergleicht die Dollarbeträge mit benutzerdefinierten Schwellenwerten. Werden Limits überschritten, werden E-Mail- und In-App-Benachrichtigungen ausgelöst. Stripe-Webhooks halten Abo- und Zahlungsstatusdaten für Produkt- und Operations-Teams synchron.

Stripe-native Tools reduzieren den Wartungsaufwand

Das Team ersetzt nach und nach benutzerdefinierte Abrechnungsfunktionen durch die nativen Funktionen von Stripe. Die letzte umfassende Überarbeitung unter Verwendung der flexiblen Abrechnung und Nutzungsmessung von Stripe dauerte einen Monat.

Absolute Preistransparenz

Integrierte Preisgestaltung pro Transaktion ohne versteckte Transaktionsgebühren

Schnelle Integration

Starten Sie mit Stripe in weniger als 10 Minuten