Configurazione
Una sola API key. Visibilità completa su Vast.ai.
Colleghi il Suo account Vast.ai con una API key in sola lettura. DoiT acquisisce automaticamente i costi di noleggio, storage e banda. Nessun agent, nessuna modifica ai workloads di training o inferenza. A poche ore dal collegamento avrà già report unificati sui costi GPU.
Cosa ottiene
Pensato per la realtà di chi noleggia GPU su un marketplace
Le funzionalità che i team AI e FinOps ci chiedono davvero quando la spesa GPU passa ai prezzi di marketplace su Vast.ai.
Report sulla spesa GPU
Analizzi la spesa Vast.ai per tipo di GPU, istanza, progetto o team senza esportare le fatture in fogli di calcolo.
Anomalie in tempo reale
Riceva un avviso quando un training run o un'istanza dimenticata fa impennare la fattura.
Rilevamento delle GPU inattive
Individui le istanze noleggiate rimaste inattive e smetta di pagare ore GPU inutilizzate.
Contesto multi-cloud
Visualizzi la spesa Vast.ai accanto a quella degli altri cloud provider in un unico report.
Visibilità su storage e banda
Separi i costi di noleggio delle GPU da quelli di storage e banda che si accumulano attorno a dataset di training e checkpoint.
Governance e budget
Imposti budget per team o progetto prima che gli esperimenti si trasformino in sorprese.
La pagina di fatturazione Le dice quanto ha speso. Cloud Intelligence™ La aiuta a intervenire.
Oltre la pagina di fatturazione di Vast.ai
Rollup per tipo di GPU e progetto
Viste consolidate su ogni istanza noleggiata, con drill-down su qualsiasi modello di GPU, progetto o team.
Avvisi di anomalia in tempo reale
Rilevamento basato su machine learning sulle dimensioni istanza, tipo di GPU e progetto, con notifiche su Slack o via email.
Previsioni e budget
Preveda dove sta andando la spesa GPU a prezzi di marketplace e imposti budget prima che i costi di training sfuggano di mano.
Allocazione dei costi rigorosa
Attribuisca le ore GPU a team e progetti e ripartisca l'infrastruttura di training condivisa esattamente come si aspetta il reparto finance.
Vista multi-cloud dei costi AI
Combini i noleggi Vast.ai con la spesa GPU su AWS o Google Cloud per avere un quadro unico dei costi di compute AI.
Forward Deployed Engineers
Cloud architect di livello mondiale che lavorano come un'estensione del Suo team per implementare le ottimizzazioni.
Attribute + AI compute
Associ la spesa di compute AI al lavoro che la genera
Il sensore runtime di Attribute copre infrastruttura e inferenza AI, mappando i costi su clienti e workloads senza dipendere da un programma di tagging. Abbinato ai dati di spesa Vast.ai in DoiT, Le mostra quanto costa realmente ogni cliente e workload. Ideale per: team AI che vogliono l'attribuzione dei costi di infrastruttura e inferenza in un'unica vista.
Copertura del compute
Attribuisca i costi dei workloads AI containerizzati e basati su VM.
Attribuzione dei servizi dati
Copra database, object storage, cache e code che alimentano le Sue pipeline.
Workloads autogestiti
Attribuisca i costi di Kafka, Elasticsearch e RabbitMQ a supporto di training e serving.
Copertura completa delle API di inferenza
Catturi le chiamate di invocazione dei modelli e di risposta in streaming su tutto lo stack di serving.
Costi a livello di modello
Scomponga la spesa di inferenza per modello in tutto il Suo stack AI.
Viste per cliente e workload
Veda quale cliente e quale workload è responsabile di ciascun costo.
Anomalie su infrastruttura e AI
Rilevi spese anomale sull'infrastruttura e sull'inferenza dei modelli.
Le aziende in rapida crescita si affidano a Cloud Intelligence™
Risparmio medio nei primi 90 giorni
Tempo medio di implementazione
“L'attenzione di DoiT per l'affidabilità, unita alla flessibilità del sistema, ci permette di ottimizzare in sicurezza i nostri workloads Amazon EKS senza alcun intervento da parte dei nostri engineer.”
Oren Ashkenazy
Director of DevOps and Cloud di Fiverr
Pronto a collegare il Suo account Vast.ai?
Metta a fuoco la Sua spesa GPU su Vast.ai.
Frequently asked
questions
Posso vedere la spesa Vast.ai insieme agli altri costi cloud?
Sì. Cloud Intelligence™ normalizza i costi di noleggio, storage e banda di Vast.ai nello stesso livello di reporting degli altri cloud provider, così può confrontare i costi GPU tra le piattaforme e aggregare tutto per team o progetto in un'unica vista.
Cosa comporta collegare Vast.ai a Cloud Intelligence™?
Il collegamento avviene con una API key in sola lettura dal Suo account Vast.ai. DoiT gestisce l'acquisizione e la normalizzazione dei dati di fatturazione e utilizzo, senza agent da installare e senza modifiche ai workloads di training o inferenza. La maggior parte dei team è operativa entro un giorno.
Quali tipi di GPU o istanze rappresentano la maggior parte della mia spesa?
I report Le permettono di passare dalla spesa totale su Vast.ai fino a una specifica istanza o modello di GPU, filtrando per progetto, team o intervallo temporale. Può vedere esattamente quali training run e workloads di serving generano i costi, senza esportare fatture.
Riceverò un avviso se un training run o un'istanza dimenticata fa impennare la mia fattura?
Il rilevamento delle anomalie è attivo in modo continuo su tutta la Sua spesa Vast.ai. Quando un job di training fuori controllo o un'istanza lasciata accesa tutta la notte porta i costi fuori dal pattern previsto, riceve un avviso su Slack o via email con la causa probabile.
DoiT può aiutarmi a individuare istanze GPU inattive?
Sì. Poiché i noleggi Vast.ai si pagano a ore, che le GPU lavorino o meno, le istanze inattive sono la fonte di spreco più comune. Cloud Intelligence™ evidenzia la spesa sulle istanze senza attività significativa, così può fermarle prima che le ore si accumulino.
In che modo i prezzi di marketplace di Vast.ai influiscono sul reporting dei costi?
Gli host di Vast.ai stabiliscono i propri prezzi, quindi le tariffe effettive variano in base a domanda e offerta. Cloud Intelligence™ riporta i costi effettivamente fatturati nel tempo, rendendo facile capire in che misura variazioni di tariffa, scelta delle istanze e utilizzo contribuiscano alla fattura.
Vast.ai mi mostra già la fatturazione. Cosa aggiunge Cloud Intelligence™?
La vista di fatturazione di Vast.ai mostra quanto ha speso su quella singola piattaforma. Cloud Intelligence™ aggiunge rollup multi-cloud, rilevamento delle anomalie, budget e previsioni, allocazione dei costi per team e progetto, oltre all'accesso ai Forward Deployed Engineers che La aiutano ad agire in base a ciò che i dati mostrano.
A cosa accede Cloud Intelligence™ nel mio account Vast.ai e come viene protetto l'accesso?
Cloud Intelligence™ utilizza un accesso API in sola lettura con privilegi minimi. Non avviamo, fermiamo o modifichiamo mai le Sue istanze senza la Sua approvazione, e la piattaforma è certificata SOC 2 Type II.