Acompanhe os gastos com Claude AI pela integração Anthropic da DoiT. Veja custos de IA junto com a nuvem, aloque por times e detecte anomalias nos modelos Claude.
Lançamos hoje a integração da Anthropic para o DoiT Cloud Intelligence™, que permite acompanhar os custos e o uso dos modelos Claude lado a lado com seus gastos em nuvem, ferramentas SaaS de terceiros e quaisquer outros custos ingeridos em um único lugar.
Com cada vez mais times de FinOps responsáveis por gerenciar e acompanhar os gastos com IA ao lado da infraestrutura de nuvem e das assinaturas SaaS, fica cada vez mais essencial ter informações detalhadas sobre:
- Quanto você gasta em cada modelo
- Quais times ou aplicações puxam os seus custos com IA
- Como os padrões de uso evoluem ao longo do tempo
Se a sua empresa está desenvolvendo recursos de IA com o Claude, continue lendo para descobrir como tirar proveito dos seus dados de custo e uso da Anthropic no DoiT Cloud Intelligence.
Casos de uso
Depois de conectar suas organizações da Anthropic, dá para começar a analisar e monitorar as métricas de custo e uso dos modelos Claude na plataforma de várias formas.
Veja custo e uso do Claude ao lado de outros serviços de IA na GenAI Lens
Assim que você conectar sua conta da Anthropic, os dados de custo e uso dos modelos Claude vão aparecer automaticamente no seu dashboard da GenAI Lens, junto com qualquer outro serviço de IA suportado que você esteja usando.
Seja usando os modelos Claude isoladamente ou em conjunto com a OpenAI (e em breve com AWS Bedrock e Google Vertex AI), a GenAI Lens entrega uma visão unificada dos seus gastos com IA. Em vez de pular entre dashboards diferentes ou montar dados a partir de várias fontes, você pode:
- Comparar os custos do Claude com OpenAI, Bedrock ou Vertex AI para entender quais modelos oferecem o melhor custo-benefício em cada cenário
- Acompanhar a tendência geral dos seus gastos com IA em todos os provedores conectados, num só lugar
- Identificar padrões de uso que podem indicar oportunidades de otimizar a combinação de modelos
- Obter insights completos sobre uso de tokens, incluindo o Claude e os demais serviços de IA conectados
Ou seja, dá para enxergar na hora como o Claude se encaixa na sua estratégia de IA mais ampla, sem precisar de configuração adicional.
Dados de custo e uso da Anthropic exibidos na GenAI Lens
Aloque os custos dos seus modelos Claude
Depois de conectar suas organizações da Anthropic, todos os dados de custo e uso dos modelos Claude ficam disponíveis como atributos para usar na criação de Allocations.
Na prática, você pode incluir atributos de custo e uso dos modelos Claude em alocações já existentes que envolvam nuvem, SaaS (por exemplo, Datadog) e/ou custos de negócio — ou montar novas alocações específicas para o Claude.
No exemplo abaixo, atualizamos uma alocação existente que reúne todos os nossos custos de IA em produção em outros serviços de terceiros integrados (OpenAI, Databricks, Snowflake) para incluir também o nosso workspace de produção na Anthropic.
Alocação de custos combinando custos de IA em produção de várias plataformas, incluindo a Anthropic
Crie relatórios personalizados com dados de custo e uso do Claude
Seus dados de custo e uso do Claude também podem ser usados na criação de relatórios, com flexibilidade para analisar e desdobrar os gastos com IA do seu jeito.
No exemplo abaixo, estamos olhando quantos tokens nossos usuários estão consumindo por modelo e por provedor (OpenAI vs. Anthropic).
Saber o uso de tokens por provedor e por usuário permite atribuir custos aos times certos, definir cotas razoáveis e flagrar rapidamente scripts descontrolados ou uso indevido. Também escancara diferenças de eficiência entre modelos (quem queima mais tokens para a mesma tarefa), o que ajuda a direcionar workloads para a opção mais barata/rápida e a orientar os usuários a enxugar prompts inchados.
Para isso, empilhamos dimensões da GenAI (User Name, Model) na seção Group By — ambas com valores para Anthropic e OpenAI.
Relatório exibindo o uso de tokens por usuário, por modelo, entre OpenAI e Anthropic
Identifique anomalias de custo nos modelos Claude
Além disso, depois da integração, a Detecção de Anomalias passa a entender os seus padrões de gasto e, sempre que houver picos atípicos nos custos de uso dos modelos Claude, detecta e avisa automaticamente — para você agir antes que o impacto chegue na sua fatura e nas operações.
Monitore mudanças nos gastos e no uso dos modelos Claude
Por fim, você também pode usar os dados de custo e uso da Anthropic em Alertas para acompanhar proativamente os seus padrões de gasto.
Neste exemplo, restringimos o alerta a tudo que está relacionado à Anthropic e usamos a dimensão GenAI User Name no menu Evaluate for each. Assim, recebemos uma notificação automática sempre que o gasto com Anthropic de qualquer usuário aumentar mais de 30% mês a mês.
Se você tem muitos engenheiros desenvolvendo com modelos Claude, isso pode ser mais prático do que criar um orçamento para cada usuário.
Alerta de custo da Anthropic que monitora e avisa sempre que o gasto de algum usuário com a Anthropic aumentar mais de 30% MoM
Conclusão
Se você está desenvolvendo com modelos Claude, a nossa integração de custo e uso da Anthropic vai te dar a visibilidade necessária para entender como os investimentos em IA se encaixam no seu portfólio de tecnologia como um todo.
Pronto para começar?
Se você é cliente DoiT, basta conectar suas organizações da Anthropic e, em poucos minutos, começar a visualizar seus custos de IA junto com a infraestrutura de nuvem.
Tem dúvidas? Fale com a gente para saber mais sobre o DoiT Cloud Intelligence e como trazer contexto para cada decisão de custo em nuvem.