Monitorea el gasto en Claude AI con la integración de Anthropic de DoiT. Visualiza los costos de IA junto al gasto en la nube, asígnalos por equipo y detecta anomalías de costo en los modelos de Claude.
Hoy lanzamos la integración de Anthropic para DoiT Cloud Intelligence™, que te permite ver los costos y la información de uso de los modelos de Claude junto con tus costos de nube, los de herramientas SaaS de terceros y cualquier otro costo ingerido, todo en un mismo lugar.
Cada vez se les pide a más equipos de FinOps que gestionen y hagan seguimiento del gasto en IA junto con la infraestructura de nube y las suscripciones SaaS, por lo que se vuelve cada vez más importante contar con información detallada sobre:
- Cuánto gastas en cada modelo
- Qué equipos o aplicaciones están detrás de tus costos de IA, y
- Cómo cambian los patrones de uso con el tiempo
Si tu empresa está desarrollando funcionalidades con IA usando Claude, sigue leyendo para descubrir cómo aprovechar tus datos de costos y uso de Anthropic con DoiT Cloud Intelligence.
Casos de uso
Una vez que conectes tu organización (o tus organizaciones) de Anthropic, podrás analizar y monitorear las métricas de costos y uso de los modelos de Claude desde la plataforma de varias formas.
Visualiza los costos y el uso de Claude junto a otros servicios de IA en el GenAI Lens
Una vez conectada tu cuenta de Anthropic, los datos de costos y uso de los modelos de Claude aparecerán automáticamente en tu dashboard de GenAI Lens, junto con cualquier otro servicio de IA compatible que estés usando.
Ya sea que uses los modelos de Claude por sí solos o junto con OpenAI (con AWS Bedrock y Google Vertex AI muy pronto), el GenAI Lens te ofrece una vista unificada de tu gasto en IA. En lugar de saltar entre dashboards o armar el rompecabezas con datos de varias fuentes, puedes:
- Comparar los costos de Claude con OpenAI, Bedrock o Vertex AI para entender qué modelos rinden mejor en cada caso de uso
- Hacer seguimiento de las tendencias de tu gasto total en IA entre todos los proveedores conectados, desde un solo lugar
- Identificar patrones de uso que revelen oportunidades para optimizar tu mezcla de modelos
- Obtener insights completos sobre el uso de tokens que incluyen a Claude junto con el resto de tus servicios de IA conectados
Así, puedes ver de inmediato cómo encaja Claude en tu estrategia de IA, sin configuración adicional.
Datos de costos y uso de Anthropic mostrados en el GenAI Lens
Asigna los costos de tus modelos de Claude
Una vez conectada tu organización (o tus organizaciones) de Anthropic, todos los datos de costos y uso de los modelos de Claude quedan disponibles como atributos que puedes usar al crear Allocations.
Es decir, puedes sumar atributos de costos y uso de los modelos de Claude a allocations existentes que incluyan costos de nube, SaaS (por ejemplo, Datadog) o costos de negocio, o bien crear nuevas allocations específicas para Claude.
En el ejemplo de abajo, actualizamos una allocation existente que agrupa todos nuestros costos de IA de producción entre otros servicios de terceros integrados (OpenAI, Databricks, Snowflake) para incluir nuestro workspace de producción en Anthropic.
Allocation de costos que combina costos de IA de producción de varias plataformas, incluida Anthropic
Crea reportes personalizados con datos de costos y uso de Claude
Tus datos de costos y uso de Claude también están disponibles al armar reportes, lo que te da flexibilidad para analizar y desglosar tu gasto en IA.
Por ejemplo, abajo vemos cuántos tokens están consumiendo nuestros usuarios por modelo y por proveedor (OpenAI vs. Anthropic).
Conocer el uso de tokens por proveedor y por usuario te permite atribuir los costos a los equipos correctos, definir cuotas razonables y detectar a tiempo scripts descontrolados o usos indebidos. También revela diferencias de eficiencia entre modelos (quién quema más tokens para la misma tarea), de modo que puedas enrutar los workloads a la opción más barata o más rápida y orientar a los usuarios para corregir prompts inflados.
Para lograrlo, apilamos las dimensiones de GenAI (User Name, Model) en la sección Group By; ambas contienen valores para Anthropic y OpenAI.
Reporte que muestra el uso de tokens por usuario y por modelo, entre OpenAI y Anthropic
Detecta anomalías de costo en los modelos de Claude
Además, una vez hecha la integración, Anomaly Detection comenzará a aprender tus patrones de gasto y, ante picos inusuales en el costo de uso de tus modelos de Claude, los detectará automáticamente y te avisará para que puedas actuar antes de que impacte tu factura y tus operaciones.
Monitorea cambios en el gasto y uso de los modelos de Claude
Por último, también puedes usar los datos de costos y uso de Anthropic en Alerts para monitorear de forma proactiva tus patrones de gasto.
En este ejemplo, acotamos la alerta a todo lo relacionado con Anthropic y usamos la dimensión de GenAI User Name en el menú Evaluate for each, de modo que recibiremos una notificación automática cada vez que el gasto en Anthropic de cualquier usuario individual aumente más del 30% mes contra mes.
Si tienes muchos engineers desarrollando con modelos de Claude, esto puede ser más eficiente que configurar un presupuesto para cada uno de tus usuarios.
Alerta de costos de Anthropic que monitorea y te avisa cuando el gasto de cualquier usuario en Anthropic aumenta más del 30% MoM
Conclusión
Si estás desarrollando con modelos de Claude, nuestra integración de costos y uso de Anthropic te dará la visibilidad que necesitas para entender cómo encajan tus inversiones en IA dentro de tu portfolio tecnológico general.
¿Todo listo para empezar?
Si eres cliente de DoiT, puedes conectar tu organización (u organizaciones) de Anthropic y empezar a ver tus costos de IA junto con los de tu infraestructura de nube en minutos.
¿Tienes preguntas? Contáctanos si quieres saber más sobre DoiT Cloud Intelligence y cómo darle contexto a cada decisión de costo en la nube.