Cloud Intelligence™Cloud Intelligence™
Integrations

La spesa in token OpenAI, sotto controllo

Una vista in tempo reale dell'utilizzo di OpenAI, del mix di modelli e dei costi dei token per ogni progetto, chiave e team.

Mockup di dashboard della spesa per modello per OpenAI

La scelta dei team che portano funzionalità AI in produzione

Akamai
Blumira
Chess.com
Current
OneFootball
Promptly
Recurly
Lusha
Mux

Configurazione

Una sola API key. Visibilità completa su OpenAI.

Colleghi la Sua organizzazione OpenAI con una admin key in sola lettura. DoiT acquisisce automaticamente dati di utilizzo, conteggi di token per modello e dati di fatturazione, senza proxy, senza modifiche agli SDK e senza export manuali in CSV. Avrà report unificati nel giro di poche ore dalla connessione.

Cosa ottiene

Progettato per le sfide reali di chi lavora su OpenAI

Quello che i responsabili FinOps ed engineering ci chiedono davvero quando collegano la loro organizzazione OpenAI.

Reportistica di utilizzo unificata

Analizzi la spesa OpenAI per progetto, API key, modello o team senza costruire contatori di token personalizzati.

Anomalie in tempo reale

Riceva avvisi su picchi di token e prompt fuori controllo in pochi minuti, non in ore.

Ottimizzazione del mix di modelli

Individui i prompt instradati verso GPT-4 che potrebbero girare su un modello più economico senza perdere qualità.

Token di input e di output

Scomponga i costi per token di input, in cache e di output su ogni modello.

Attribuzione a livello di funzionalità

Colleghi la spesa in token alla funzionalità di prodotto o al cliente che la genera, non solo all'API key che ha effettuato la chiamata.

Budget e guardrail

Imposti budget per progetto e per team, così gli agenti fuori controllo non diventano una sorpresa per il finance il mese prossimo.

La dashboard di utilizzo nativa Le dice cosa è successo. Cloud Intelligence™ La aiuta a intervenire.

Oltre la pagina di utilizzo di OpenAI

  • Aggregazioni multi-progetto

    Viste consolidate su ogni progetto e organizzazione OpenAI, con drill-down su qualsiasi chiave o modello.

  • Avvisi di anomalie in tempo reale

    Rilevamento basato su machine learning sulle dimensioni di modello, progetto e chiave, con notifiche su Slack o via email.

  • Previsione dei costi dei modelli

    Stimi il consumo di token rispetto alla crescita del prodotto prima che una nuova funzionalità arrivi in GA.

  • Tag e allocazioni in ordine

    Mappi le API key su prodotti, clienti e centri di costo e ripartisca l'utilizzo condiviso proprio come si aspetta il finance.

  • Attribuzione AI multi-cloud

    Unisca la spesa OpenAI a quella di Bedrock, Vertex e Azure OpenAI per vedere l'intera spesa AI in un unico posto.

  • Forward Deployed Engineers

    Cloud architect di livello mondiale che lavorano come estensione del Suo team per implementare le ottimizzazioni.

Attribute + OpenAI

Scomponga la spesa OpenAI fino al singolo workload

Attribute legge le chiamate API di OpenAI a runtime, cattura gli identificativi dei modelli e i metadati delle richieste e mappa i costi sul servizio, sul cliente o sulla funzionalità esatta che genera le richieste. Ideale per: aziende SaaS che usano OpenAI in produzione, in particolare team che indagano su una crescita inspiegabile dei costi AI.

  • Ripartizioni a livello di modello

    Separi i costi tra GPT-4o, GPT-4, GPT-3.5 e o1.

  • Costi di prompt e completion

    Visualizzi separatamente i costi dei token di input e di output.

  • Attribuzione per servizio e cliente

    Mappi ogni chiamata sul servizio e sul cliente a valle che l'ha generata.

  • Scomposizione dei gateway

    Mantenga l'attribuzione anche con pattern di gateway LLM nativi di OpenAI.

  • Trend e anomalie

    Monitori la spesa nel tempo e individui crescite anomale dei costi OpenAI.


Le aziende in rapida crescita scelgono Cloud Intelligence™

21%

Risparmio medio nei primi 90 giorni

28 giorni

Tempo medio di implementazione

Oren Ashkenazy

L'attenzione di DoiT all'affidabilità, unita alla flessibilità del sistema, ci aiuta a ottimizzare in sicurezza i nostri workloads Amazon EKS senza alcun intervento da parte dei nostri engineer.

Oren Ashkenazy

Director of DevOps and Cloud di Fiverr

Pronto a collegare la Sua organizzazione OpenAI?

Metta sotto controllo la spesa in token.

Frequently asked
questions

Esiste una vista unica dei costi OpenAI su più progetti e chiavi?

Colleghi la Sua organizzazione OpenAI una sola volta con una admin key. Cloud Intelligence™ acquisisce l'utilizzo di ogni progetto e API key, così può analizzare la spesa in token per progetto, modello, chiave o team da un'unica vista, senza contatori personalizzati né export manuali in CSV.

Cosa comporta collegare i dati di utilizzo di OpenAI a Cloud Intelligence™?

Basta una admin key in sola lettura limitata alla Sua organizzazione OpenAI. DoiT si occupa di acquisizione, normalizzazione e reportistica con granularità giornaliera su token di input, output e in cache per ciascun modello. La maggior parte dei team è operativa entro un giorno.

Quali modelli o funzionalità pesano di più sulla mia spesa in token?

I report di utilizzo permettono di scendere dalla spesa totale fino a un modello, un progetto o un'API key specifica. Una volta mappate le chiavi, può filtrare per funzionalità, cliente o ambiente, senza scrivere SQL.

Verrò avvisato delle anomalie di costo OpenAI nel momento in cui si verificano?

Il rilevamento delle anomalie è attivo in continuo su modelli, progetti e chiavi. Quando l'utilizzo dei token si discosta dalla baseline (un agente in loop, un prompt scritto male, una nuova funzionalità diventata virale), riceve un avviso su Slack o via email con la probabile causa.

Posso impostare budget per team o per funzionalità di prodotto che usano OpenAI?

Sì. Definisca budget e soglie per progetto, chiave o funzionalità taggata e riceva avvisi progressivi man mano che la spesa si avvicina al limite: così un agente fuori controllo non si trasforma in una sorpresa a fine mese.

Posso unire la spesa OpenAI a quella di altri provider AI?

Cloud Intelligence™ unifica OpenAI, Azure OpenAI, Amazon Bedrock, Google Vertex AI e Anthropic in un unico report, così può confrontare i costi per token e la spesa AI totale per funzionalità o cliente.

Uso già la dashboard di utilizzo nativa di OpenAI. Cosa aggiunge Cloud Intelligence™?

La dashboard di OpenAI è un visualizzatore di utilizzo. Cloud Intelligence™ è una piattaforma: visibilità AI cross-provider, raccomandazioni proattive, rilevamento delle anomalie in tempo reale, budget e governance, oltre all'accesso ai Forward Deployed Engineers che La aiutano ad agire su ciò che i dati mostrano.

A cosa accede Cloud Intelligence™ nella mia organizzazione OpenAI e come sono protetti i dati?

Cloud Intelligence™ utilizza una admin key in sola lettura con privilegi minimi. Acquisiamo esclusivamente metadati di utilizzo e fatturazione (mai il contenuto di prompt o completion) e la piattaforma è certificata SOC 2 Type II.