Rastrea los costos de model-serving y el uso de tokens de Vertex AI y Databricks en GenAI Intelligence

Ahora puedes rastrear en detalle los costos y el uso de tokens de las cargas de trabajo de GenAI en Google Vertex AI y Databricks desde GenAI Intelligence. GenAI Intelligence te brinda una vista única y completa de los costos de IA y el uso de tokens en todo tu stack, incluyendo otros proveedores compatibles como Amazon Bedrock, OpenAI y Anthropic Claude.

Para Databricks, la cobertura incluye:

• Modelos fundacionales alojados en Databricks
• Modelos personalizados en Mosaic AI Model Serving
• Egreso de red relacionado con model serving
• Uso de SQL AI Functions

Además, los datos de costos y tokens de estos proveedores de IA se completarán en las etiquetas de sistema de GenAI. Estas etiquetas de sistema estandarizan tus datos de GenAI en categorías consistentes (por ejemplo, Modelo, Tipo de uso, Formato de medios) en todos los proveedores de GenAI compatibles, lo que te facilita profundizar en los costos y el uso de GenAI entre proveedores sin tener que revisar SKUs y recursos específicos de cada servicio.

Para comenzar, explora GenAI Intelligence y usa las etiquetas de sistema de GenAI para generar reportes y asignar tu gasto en GenAI.

Nota: Para ver las cargas de trabajo de GenAI de Databricks en GenAI Lens, primero deberás conectar tu cuenta de Databricks a DoiT Cloud Intelligence.