Suivez les coûts de model-serving et l'utilisation des tokens pour Vertex AI et Databricks dans GenAI Intelligence

Vous pouvez désormais suivre en détail les coûts et l'utilisation des tokens pour vos workloads GenAI Google Vertex AI et Databricks dans GenAI Intelligence. GenAI Intelligence vous offre une vue unique et complète des coûts d'IA et de l'utilisation des tokens sur l'ensemble de votre stack, y compris les autres fournisseurs pris en charge comme Amazon Bedrock, OpenAI et Anthropic Claude.

Pour Databricks, la couverture inclut :

• Les modèles de fondation hébergés par Databricks
• Les modèles personnalisés sur Mosaic AI Model Serving
• Le trafic réseau sortant lié au model serving
• L'utilisation des SQL AI Functions

De plus, les données de coûts et de tokens pour ces fournisseurs d'IA alimenteront les labels système GenAI. Ces labels système standardisent vos données GenAI en catégories cohérentes (ex. Modèle, Type d'utilisation, Format média) pour l'ensemble des fournisseurs GenAI pris en charge, ce qui vous permet d'analyser plus facilement vos coûts et votre utilisation GenAI entre fournisseurs sans passer par des SKU et des ressources spécifiques à chaque service.

Pour commencer, explorez GenAI Intelligence et utilisez les labels système GenAI pour créer des rapports et allouer vos dépenses GenAI.

Remarque : pour visualiser les workloads GenAI Databricks dans GenAI Lens, vous devez d'abord connecter votre compte Databricks à DoiT Cloud Intelligence.