Supporto per OpenAI e Anthropic in CloudFlow

CloudFlow introduce il supporto per la OpenAI Administration API e l'Anthropic Admin API, per guardrail di spesa, gestione delle chiavi API e reportistica sull'utilizzo.

Man mano che le organizzazioni adottano l'AI, l'utilizzo cresce spesso più rapidamente della governance. Le chiavi API si moltiplicano tra team e progetti, la spesa si distribuisce su più provider e risalire ai responsabili diventa sempre più difficile. I team FinOps possono anche disporre dei dati su costi e utilizzo, ma trasformarli in azioni tempestive richiede ancora revisioni manuali, script personalizzati e coordinamento con i team di engineering.

Ne derivano sfide molto concrete: chi è responsabile di ciascuna chiave API? Quali chiavi non vengono più utilizzate? Un aumento imprevisto della spesa è legittimo? Cosa deve accadere quando l'utilizzo supera la soglia di un team? Senza automazione, le credenziali obsolete restano attive e i controlli sui costi vengono applicati solo dopo che lo sforamento si è già verificato.

CloudFlow ora supporta la OpenAI Administration API e l'Anthropic Admin API. Può così combinare i dati di amministrazione, costi e utilizzo dei provider con filtri, soglie configurabili, notifiche e azioni automatizzate in un unico workflow.

Questo abilita casi d'uso di FinOps per l'AI, ad esempio:

• Audit delle chiavi API obsolete o mai utilizzate.
• Monitoraggio di utilizzo e spesa per team o workloads.
• Applicazione di guardrail di spesa configurabili.
• Notifica ai responsabili prima che sia necessario un intervento.
• Disattivazione delle credenziali che violano le policy.
• Registrazione delle azioni di governance per reportistica e revisione.

Come mettere tutto questo in pratica?

Per facilitare i primi passi, abbiamo creato due tutorial che spiegano come realizzare con CloudFlow alcuni dei casi d'uso più diffusi.

Audit delle chiavi API obsolete

Costruisca un flusso di governance in sola lettura che censisce le chiavi API di OpenAI e Anthropic e identifica le credenziali che potrebbero non essere più necessarie. Il tutorial mostra come utilizzare filtri e trasformazioni di data/ora per classificare le chiavi come mai utilizzate o inattive da oltre 90 giorni, per poi inviare report formattati via email agli stakeholder interessati.

Nel corso del tutorial imparerà a creare diramazioni a partire dai risultati delle azioni dei provider, lavorare con i timestamp, filtrare dati strutturati e costruire notifiche in formato tabellare. Segua il tutorial sull'audit delle chiavi API

Applicare guardrail di spesa per Anthropic

Costruisca un controllo automatizzato che valuta la spesa delle chiavi API di Anthropic rispetto a soglie configurabili per singola chiave, memorizzate in CloudFlow Datastore (un semplice database chiave-valore). Il flusso crea una finestra di reporting mobile, combina i dati di costo e utilizzo di Anthropic per stimare la spesa attribuibile a ciascuna chiave e identifica le chiavi che hanno violato le policy.

Quando una soglia viene superata, il flusso disattiva la chiave, notifica gli stakeholder e registra l'evento di enforcement per le revisioni future. Il tutorial mostra come combinare azioni dei provider, configurazione del Datastore, logica di data/ora, elaborazione personalizzata dei dati, notifiche e remediation in un unico workflow. Segua il tutorial sui guardrail di spesa per Anthropic

Per iniziare

Crei una connessione OpenAI o Anthropic, quindi aggiunga le azioni del provider ai Suoi workflow CloudFlow. Tenga presente che le azioni OpenAI e Anthropic sono attualmente in early preview. Ci contatti per richiedere l'accesso.

Questi tutorial sono solo un punto di partenza: non vediamo l'ora di scoprire cosa realizzerà con CloudFlow per il FinOps applicato all'AI!