OpenAI- und Anthropic-Support in CloudFlow

CloudFlow unterstützt jetzt die OpenAI Administration API und die Anthropic Admin API – für Spend-Guardrails, API-Key-Hygiene und Nutzungsberichte.

Mit der Einführung von KI wächst die Nutzung in Unternehmen oft schneller als die Governance. API-Keys vervielfachen sich über Teams und Projekte hinweg, die Ausgaben verteilen sich auf mehrere Anbieter, und Zuständigkeiten lassen sich kaum noch nachvollziehen. FinOps-Teams verfügen zwar über Kosten- und Nutzungsdaten – doch um daraus rechtzeitig Maßnahmen abzuleiten, braucht es nach wie vor manuelle Prüfungen, eigene Skripte und die Abstimmung mit den Engineering-Teams.

Daraus ergeben sich ganz praktische Fragen: Wem gehört welcher API-Key? Welche Keys werden nicht mehr verwendet? Ist ein unerwarteter Kostenanstieg legitim? Was soll passieren, wenn die Nutzung einen Team-Schwellenwert überschreitet? Ohne Automatisierung bleiben veraltete Zugangsdaten aktiv, und Kostenkontrollen greifen erst, wenn das Budget bereits überschritten wurde.

CloudFlow unterstützt jetzt die OpenAI Administration API und die Anthropic Admin API. Sie können Administrations-, Kosten- und Nutzungsdaten der Anbieter mit Filtern, konfigurierbaren Schwellenwerten, Benachrichtigungen und automatisierten Aktionen in einem einzigen Workflow kombinieren.

Damit lassen sich FinOps-Anwendungsfälle für KI umsetzen, zum Beispiel:

• Veraltete oder nie genutzte API-Keys auditieren.
• Nutzung und Ausgaben über Teams oder workloads hinweg überwachen.
• Konfigurierbare Spend-Guardrails anwenden.
• Verantwortliche benachrichtigen, bevor ein Eingreifen nötig wird.
• Zugangsdaten deaktivieren, die gegen Richtlinien verstoßen.
• Governance-Maßnahmen für Reporting und Review protokollieren.

Und wie setzen Sie das in der Praxis um?

Für einen einfachen Einstieg haben wir zwei Tutorials erstellt, die zeigen, wie Sie einige dieser gängigen Anwendungsfälle mit CloudFlow umsetzen.

Veraltete API-Keys auditieren

Erstellen Sie einen rein lesenden Governance-Flow, der OpenAI- und Anthropic-API-Keys inventarisiert und Zugangsdaten identifiziert, die möglicherweise nicht mehr benötigt werden. Das Tutorial zeigt, wie Sie mit Filtern und Datums-/Zeit-Transformationen Keys als nie genutzt oder als seit mehr als 90 Tagen inaktiv einstufen und anschließend formatierte E-Mail-Berichte an die zuständigen Stakeholder senden.

Dabei lernen Sie, wie Sie auf Basis von Anbieter-Aktionsergebnissen verzweigen, mit Zeitstempeln arbeiten, strukturierte Daten filtern und tabellenbasierte Benachrichtigungen erstellen. Zum Tutorial: API-Keys auditieren

Spend-Guardrails für Anthropic anwenden

Erstellen Sie eine automatisierte Kontrolle, die die Ausgaben pro Anthropic-API-Key anhand konfigurierbarer Schwellenwerte prüft, die im CloudFlow Datastore (einer einfachen Key-Value-Datenbank) hinterlegt sind. Der Flow erstellt ein rollierendes Berichtsfenster, kombiniert Anthropic-Kosten- und Nutzungsdaten, um die Ausgaben je Key zu schätzen, und identifiziert Keys, die gegen die Richtlinie verstoßen.

Wird ein Schwellenwert überschritten, deaktiviert der Flow den Key, benachrichtigt die Stakeholder und protokolliert den Vorgang für spätere Reviews. Das Tutorial zeigt, wie Sie Anbieter-Aktionen, Datastore-Konfiguration, Datums-/Zeitlogik, individuelle Datenverarbeitung, Benachrichtigungen und automatische Gegenmaßnahmen in einem Workflow vereinen. Zum Tutorial: Spend-Guardrails für Anthropic

Jetzt loslegen

Erstellen Sie eine OpenAI- oder Anthropic-Verbindung und fügen Sie anschließend Anbieter-Aktionen zu Ihren CloudFlow-Workflows hinzu. Bitte beachten Sie: Sowohl die OpenAI- als auch die Anthropic-Aktionen befinden sich derzeit in einer frühen Preview-Phase. Kontaktieren Sie uns, um Zugang anzufordern.

Diese Tutorials sind nur der Anfang – wir sind gespannt, was Sie mit CloudFlow für FinOps für KI auf die Beine stellen!