Configuração
Um token de API. Visibilidade total dos clusters Ray.
Conecte sua organização Anyscale com um token de API somente leitura. A DoiT ingere automaticamente as métricas de consumo, o uso dos clusters e o gasto de nuvem subjacente na AWS ou no GCP, sem agentes e sem mudanças de código nos seus jobs Ray. Os relatórios unificados ficam disponíveis poucas horas após a conexão.
O que você ganha
Feito para a realidade de quem roda Ray no Anyscale
O que líderes de FinOps e de plataformas de ML realmente nos pedem ao conectar sua organização Anyscale.
Relatórios de consumo unificados
Segmente o gasto do Anyscale por workspace, projeto, cluster ou time, junto com os custos de nuvem subjacentes.
Anomalias em tempo real
Receba alertas sobre jobs Ray descontrolados e picos de gasto com GPU em minutos.
Right-sizing de clusters
Encontre head nodes e worker nodes superdimensionados, com recomendações acionáveis de CPU, GPU e memória.
Detecção de clusters ociosos
Identifique clusters Ray que continuam rodando depois que os jobs terminam e recupere esse gasto.
Visibilidade de GPUs e aceleradores
Destrinche o uso de GPU, CPU e xPU em workloads de treinamento, tuning e serving que ficam ocultos em faturas agregadas.
Governança e orçamentos
Defina orçamentos por time de ML ou projeto e sinalize estouros antes do próximo treinamento.
O dashboard de uso do Anyscale mostra o que você consumiu. O Cloud Intelligence™ ajuda você a agir em cima disso.
Muito além do dashboard de uso do Anyscale
Consolidação multicloud
Visões consolidadas do gasto do Anyscale rodando na AWS, no GCP ou em Kubernetes, com drilldown em qualquer cluster.
Alertas de anomalias em tempo real
Detecção por machine learning nas dimensões de workspace, cluster e job, enviada para o Slack ou por e-mail.
Planejamento de commitments de GPU
Simule Savings Plans, CUDs e reservas com base no uso real do Ray antes de comprometer um único dólar.
Higiene de projetos e alocação
Encontre workloads Ray sem tags, aplique regras de alocação e divida custos compartilhados do jeito que o financeiro espera.
Alocação de custos de Kubernetes
Detalhe o gasto do Anyscale em Kubernetes por namespace, workload e label, sem exporters extras.
Forward Deployed Engineers
Arquitetos de nuvem de classe mundial que atuam como uma extensão do seu time para implementar otimizações.
Empresas em rápido crescimento rodam com Cloud Intelligence™
Economia média nos primeiros 90 dias
Tempo médio de implementação
“O foco da DoiT em confiabilidade, combinado com a flexibilidade do sistema, nos ajuda a otimizar com segurança nossos workloads do Amazon EKS sem nenhuma intervenção dos nossos engenheiros.”
Oren Ashkenazy
Diretor de DevOps e Cloud na Fiverr
Pronto para conectar sua organização Anyscale?
Coloque o gasto dos seus clusters Ray sob o microscópio.
Frequently asked
questions
Existe uma visão única dos custos do Anyscale em todos os workspaces e projetos?
Conecte sua organização Anyscale uma única vez. O Cloud Intelligence™ ingere os dados de consumo de todos os workspaces e projetos, para que você segmente os custos por cluster, job, time ou nuvem subjacente em uma visão única, sem consolidações manuais.
O que é preciso para conectar os dados de uso do Anyscale ao Cloud Intelligence™?
Use um token de API somente leitura da sua organização Anyscale combinado com a sua conexão de faturamento da AWS ou do GCP. A DoiT cuida da ingestão, da normalização e dos relatórios com granularidade horária. A maioria dos times está com tudo funcionando em um dia.
Quais clusters ou jobs Ray concentram a maior parte do meu gasto?
Os relatórios de Custo e Uso permitem descer do gasto total do Anyscale até um cluster, job ou tipo de nó específico. Filtre por workspace, projeto, região ou família de instâncias sem escrever SQL.
Serei alertado sobre anomalias de custo do Anyscale assim que acontecerem?
A detecção de anomalias roda continuamente nas dimensões de workspaces, clusters e jobs. Quando algo parece fora do normal (como um treinamento queimando horas de GPU durante a madrugada), você recebe um alerta no Slack ou por e-mail com a causa provável.
Como posso reduzir o desperdício de clusters Ray ociosos ou superdimensionados?
O Cloud Intelligence™ sinaliza clusters rodando abaixo das metas de utilização, head nodes superdimensionados para seu workload e clusters deixados ociosos após a conclusão dos jobs. Cada recomendação mostra a economia estimada.
Como posso alocar o gasto do Anyscale de volta aos times de ML e modelos?
Mapeie workspaces, projetos e tags do Anyscale para seus centros de custo internos. Pools compartilhados de GPU podem ser divididos com regras de alocação, para que o financeiro veja o custo por time e por modelo sem planilhas manuais.
Eu já uso o dashboard de uso do Anyscale. O que o Cloud Intelligence™ acrescenta?
O dashboard de uso do Anyscale mostra estimativas de consumo dentro do Anyscale. O Cloud Intelligence™ conecta isso ao gasto real de nuvem e adiciona visibilidade multicloud, recomendações proativas, detecção de anomalias, governança e acesso a Forward Deployed Engineers.
Que acesso o Cloud Intelligence™ tem à minha organização Anyscale e como ele é protegido?
O Cloud Intelligence™ usa um token de API somente leitura com permissões de privilégio mínimo. Nunca modificamos clusters ou jobs sem a sua aprovação, e a plataforma tem certificação SOC 2 Type II.