La scelta dei team che portano in produzione workloads AI e Ray su larga scala
Integrazione in pochi minuti
Un solo token API. Visibilità totale sui cluster Ray.
Colleghi la sua organizzazione Anyscale tramite un token API in sola lettura. DoiT acquisisce automaticamente metriche di consumo, utilizzo dei cluster e spesa cloud sottostante su AWS o GCP, senza agent e senza modifiche al codice dei job Ray. I report unificati sono pronti poche ore dopo la connessione.
Cosa include
Costruito sulle esigenze reali di chi gestisce Ray su Anyscale
È ciò che i responsabili FinOps e delle ML platform ci chiedono concretamente quando collegano la loro organizzazione Anyscale.
Reportistica unificata sui consumi
Analizzi la spesa Anyscale per workspace, progetto, cluster o team, insieme ai costi cloud sottostanti.
Anomalie in tempo reale
Riceva avvisi in pochi minuti su job Ray fuori controllo e picchi di spesa GPU.
Right-sizing dei cluster
Individui head node e worker node sovradimensionati con raccomandazioni concrete su CPU, GPU e memoria.
Rilevamento dei cluster inattivi
Identifica i cluster Ray rimasti accesi al termine dei job e ne recupera la spesa.
Visibilità su GPU e acceleratori
Distingue l'utilizzo di GPU, CPU e xPU tra workloads di training, tuning e serving che restano nascosti nelle fatture aggregate.
Governance e budget
Imposta budget per ogni team ML o progetto e segnala gli sforamenti prima del prossimo training.
Il dashboard di Anyscale mostra ciò che ha consumato. Cloud Intelligence™ le permette di intervenire.
Oltre il dashboard di utilizzo di Anyscale
Aggregazioni multi-cloud
Viste consolidate della spesa Anyscale su AWS, GCP o Kubernetes, con drill-down su qualsiasi cluster.
Avvisi sulle anomalie in tempo reale
Rilevamento basato su machine learning a livello di workspace, cluster e job, con notifiche su Slack o via email.
Pianificazione dei commitments su GPU
Simula Savings Plans, CUD e reservation rispetto all'utilizzo reale di Ray prima di impegnare un solo dollaro.
Igiene di progetti e allocazioni
Trova i workloads Ray non taggati, applica regole di allocazione e ripartisce i costi condivisi nel modo che il finance si aspetta.
Allocazione dei costi su Kubernetes
Scompone la spesa Anyscale su Kubernetes per namespace, workload e label, senza exporter aggiuntivi.
Forward Deployed Engineers
Cloud architect di altissimo livello che lavorano come un'estensione del suo team per implementare le ottimizzazioni.
Le aziende in rapida crescita si affidano a DoiT Cloud Intelligence™
Risparmio medio nei primi 90 giorni
Tempo medio di implementazione
“L'attenzione di DoiT all'affidabilità, unita alla flessibilità della piattaforma, ci permette di ottimizzare in sicurezza i nostri workloads su Amazon EKS senza alcun intervento da parte dei nostri Engineers.”
Oren Ashkenazy
Director of DevOps and Cloud, Fiverr
Vuole collegare la sua organizzazione Anyscale?
Metta la spesa dei suoi cluster Ray sotto la lente d'ingrandimento.
Frequently asked
questions
Come posso ottenere maggiore visibilità sui costi Anyscale tra workspace e progetti?
Basta collegare una sola volta la sua organizzazione Anyscale. Cloud Intelligence™ acquisisce i dati di consumo di ogni workspace e progetto: può analizzare i costi per cluster, job, team o cloud sottostante da un'unica vista, senza aggregazioni manuali.
Qual è il modo migliore per integrare i dati di utilizzo di Anyscale con Cloud Intelligence™?
Basta un token API in sola lettura della sua organizzazione Anyscale insieme alla connessione di billing AWS o GCP. DoiT si occupa di ingestion, normalizzazione e reportistica con granularità oraria. La maggior parte dei team è operativa nel giro di un giorno.
Come posso individuare quali cluster o job Ray generano la maggior parte della spesa?
I report Cost & Usage le permettono di passare dalla spesa Anyscale complessiva al singolo cluster, job o tipo di nodo. Può filtrare per workspace, progetto, regione o famiglia di istanze senza scrivere una riga di SQL.
Come posso monitorare in tempo reale le anomalie di costo su Anyscale?
Il rilevamento delle anomalie è attivo in modo continuo su workspace, cluster e job. Quando qualcosa non torna — ad esempio un training che brucia ore GPU durante la notte — riceve un avviso su Slack o via email con la causa più probabile.
Come posso ridurre gli sprechi causati da cluster Ray inattivi o sovradimensionati?
Cloud Intelligence™ segnala i cluster con utilizzo inferiore alle soglie attese, gli head node sovradimensionati rispetto al workload e i cluster lasciati inattivi al termine dei job. Ogni raccomandazione indica il risparmio stimato.
Come posso riallocare la spesa Anyscale ai team ML e ai modelli?
Mappa workspace, progetti e tag di Anyscale sui suoi centri di costo interni. I pool GPU condivisi possono essere suddivisi tramite regole di allocazione, così il finance vede il costo per team e per modello senza ricorrere a fogli di calcolo manuali.
In cosa Cloud Intelligence™ si differenzia dal dashboard di utilizzo di Anyscale?
Il dashboard di Anyscale mostra le stime di consumo all'interno di Anyscale. Cloud Intelligence™ collega quei dati alla spesa cloud reale e aggiunge visibilità multi-cloud, raccomandazioni proattive, rilevamento delle anomalie, governance e accesso ai Forward Deployed Engineers.
I miei dati sono al sicuro quando collego la mia organizzazione Anyscale?
Cloud Intelligence™ utilizza un token API in sola lettura con permessi minimi. Non modifichiamo mai cluster o job senza la sua approvazione e la piattaforma è certificata SOC 2 Type II.