Announcement
Acompanhe custos de model-serving e uso de tokens do Vertex AI e Databricks no GenAI Intelligence
By Matan Bordo
Esta página também está disponível em English, Deutsch, Español, Italiano, Français e 日本語.
Os custos de model-serving e o uso de tokens do Google Vertex AI e do Databricks agora aparecem no GenAI Intelligence, junto com Bedrock, OpenAI e Claude.
Agora você pode acompanhar custos detalhados e uso de tokens para cargas de trabalho de GenAI do Google Vertex AI e do Databricks no GenAI Intelligence. O GenAI Intelligence oferece uma visão única e abrangente dos custos de IA e do uso de tokens em toda a sua stack, incluindo outros provedores compatíveis como Amazon Bedrock, OpenAI e Anthropic Claude.
Para o Databricks, a cobertura inclui:
- Foundation models hospedados no Databricks
- Modelos customizados no Mosaic AI Model Serving
- Egress de rede relacionado a model serving
- Uso de SQL AI Functions
Além disso, os dados de custo e tokens desses provedores de IA serão preenchidos nos system labels de GenAI. Esses system labels padronizam seus dados de GenAI em categorias consistentes (ex.: Model, Usage Type, Media Format) em todos os provedores de GenAI compatíveis, facilitando a análise detalhada dos seus custos e uso de GenAI entre provedores, sem precisar navegar por SKUs e recursos específicos de cada serviço.
Para começar, explore o GenAI Intelligence e use os system labels de GenAI para gerar relatórios e alocar seus gastos com GenAI.
Nota: Para visualizar as cargas de trabalho de GenAI do Databricks no GenAI Lens, você precisará primeiro conectar sua conta do Databricks ao DoiT Cloud Intelligence.
