Monitori la spesa di Claude AI con l'integrazione Anthropic di DoiT: costi AI accanto a quelli cloud, allocazioni per team e rilevamento delle anomalie sui costi dei modelli Claude.
Da oggi è disponibile l'integrazione Anthropic per DoiT Cloud Intelligence™: in un'unica vista può consultare i costi e i dati di utilizzo dei modelli Claude insieme alla spesa cloud, ai costi degli strumenti SaaS di terze parti e a qualsiasi altro costo importato.
Sempre più team FinOps si trovano a dover gestire e tracciare la spesa AI insieme all'infrastruttura cloud e agli abbonamenti SaaS: di conseguenza, diventa cruciale avere informazioni dettagliate su:
- quanto si spende per ciascun modello;
- quali team o applicazioni stanno trainando i costi AI;
- come evolvono nel tempo i pattern di utilizzo.
Se la sua azienda sta sviluppando funzionalità basate su Claude, continui a leggere per scoprire come valorizzare i dati di costo e utilizzo di Anthropic con DoiT Cloud Intelligence.
Casi d'uso
Una volta collegate le sue organizzazioni Anthropic, può analizzare e monitorare le metriche di costo e utilizzo dei modelli Claude direttamente nella piattaforma, in diversi modi.
Costi e utilizzo di Claude insieme agli altri servizi AI nella GenAI Lens
Una volta collegato l'account Anthropic, i dati di costo e utilizzo dei modelli Claude compaiono automaticamente nella sua dashboard GenAI Lens, accanto agli altri servizi AI supportati che sta già utilizzando.
Sia che utilizzi i modelli Claude da soli o insieme a OpenAI (con AWS Bedrock e Google Vertex AI in arrivo a breve), la GenAI Lens le offre una vista unificata della spesa AI. Invece di passare da una dashboard all'altra o di ricomporre dati da fonti diverse, potrà:
- confrontare i costi di Claude con quelli di OpenAI, Bedrock o Vertex AI, per capire quali modelli offrono il miglior rapporto qualità/prezzo nei diversi casi d'uso;
- tracciare l'andamento complessivo della spesa AI su tutti i provider connessi, in un unico punto;
- individuare pattern di utilizzo che possono indicare opportunità di ottimizzazione del mix di modelli;
- ottenere un quadro completo sull'uso dei token, comprensivo di Claude e degli altri servizi AI connessi.
In questo modo capirà subito come Claude si inserisce nella sua strategia AI complessiva, senza configurazioni aggiuntive.
Dati di costo e utilizzo di Anthropic visualizzati nella GenAI Lens
Allocare i costi dei modelli Claude
Una volta collegate le sue organizzazioni Anthropic, tutti i dati di costo e utilizzo dei modelli Claude diventano disponibili come attributi da utilizzare quando crea le Allocazioni.
Significa che può inserire questi attributi in allocazioni già esistenti, comprensive di costi cloud, SaaS (ad es. Datadog) e/o costi di business, oppure creare nuove allocazioni dedicate a Claude.
Nell'esempio qui sotto abbiamo aggiornato un'allocazione esistente, che raggruppa tutti i costi AI di produzione sui servizi di terze parti integrati (OpenAI, Databricks, Snowflake), per includere anche il nostro workspace di produzione su Anthropic.
Allocazione che combina i costi AI di produzione provenienti da diverse piattaforme, Anthropic inclusa
Report personalizzati con i dati di costo e utilizzo di Claude
I dati di costo e utilizzo di Claude sono disponibili anche per la creazione di report, garantendole flessibilità nell'analisi e nella suddivisione della spesa AI.
Nell'esempio qui sotto, ad esempio, stiamo osservando quanti token utilizzano i nostri utenti per ciascun modello e per ciascun provider (OpenAI vs. Anthropic).
Conoscere l'utilizzo dei token per provider e per utente le permette di attribuire i costi ai team giusti, impostare quote sensate e individuare rapidamente script fuori controllo o usi impropri. Mette inoltre in evidenza le differenze di efficienza tra i modelli (chi consuma più token per lo stesso compito), così da indirizzare i workloads verso l'opzione più economica o veloce e aiutare gli utenti a snellire i prompt eccessivi.
Per ottenere questa vista abbiamo combinato le dimensioni GenAI (User Name, Model) nella sezione Group By: entrambe contengono valori sia per Anthropic sia per OpenAI.
Report che mostra l'utilizzo dei token per utente e per modello, su OpenAI e Anthropic
Far emergere le anomalie sui costi dei modelli Claude
Dopo l'integrazione, l'Anomaly Detection inizia ad apprendere i suoi pattern di spesa: in caso di picchi anomali sui costi dei modelli Claude, li rileva automaticamente e la avvisa, così può intervenire prima che impattino su fattura e operatività.
Tenere sotto controllo spesa e utilizzo dei modelli Claude
Infine, può utilizzare i dati di costo e utilizzo di Anthropic anche negli Alert, per monitorare in modo proattivo i suoi pattern di spesa.
In questo esempio abbiamo limitato l'alert a tutto ciò che è correlato ad Anthropic e abbiamo selezionato la dimensione GenAI User Name nel menu Evaluate for each: riceveremo così una notifica automatica ogniqualvolta la spesa Anthropic di qualsiasi singolo utente aumenti di oltre il 30% mese su mese.
Se in azienda ci sono molti Engineers che sviluppano con i modelli Claude, questo approccio risulta più efficiente rispetto all'impostazione di un budget separato per ciascun utente.
Alert sui costi Anthropic che monitora e segnala quando la spesa di un qualsiasi utente su Anthropic cresce di oltre il 30% MoM
Conclusione
Se sta sviluppando con i modelli Claude, la nostra integrazione di costo e utilizzo Anthropic le dà la visibilità necessaria per capire come i suoi investimenti in AI si collocano nel portfolio tecnologico complessivo.
Pronto a partire?
Se è già cliente DoiT, può collegare le sue organizzazioni Anthropic e iniziare a visualizzare i costi AI insieme all'infrastruttura cloud in pochi minuti.
Ha domande? Ci contatti per saperne di più su DoiT Cloud Intelligence e su come dare contesto a ogni decisione di spesa cloud.