Mise en place
Une clé API. Une visibilité complète sur Vast.ai.
Connectez votre compte Vast.ai avec une clé API en lecture seule. DoiT ingère automatiquement vos frais de location, de stockage et de bande passante. Aucun agent à installer, aucune modification de vos workloads d'entraînement ou d'inférence. Vous accédez à des rapports de coûts GPU unifiés quelques heures après la connexion.
Ce que vous obtenez
Conçu pour les réalités de la location de GPU sur une marketplace
Ce que les équipes IA et FinOps nous demandent réellement lorsque leurs dépenses GPU passent à la tarification marketplace de Vast.ai.
Reporting des dépenses GPU
Analysez vos dépenses Vast.ai par type de GPU, instance, projet ou équipe, sans exporter vos factures dans des tableurs.
Anomalies en temps réel
Soyez alerté lorsqu'un entraînement ou une instance oubliée fait grimper votre facture.
Détection des GPU inactifs
Repérez les instances louées qui tournent à vide et arrêtez de payer pour des heures GPU inutilisées.
Contexte multi-cloud
Visualisez vos dépenses Vast.ai aux côtés de vos autres fournisseurs cloud dans un seul rapport.
Visibilité sur le stockage et la bande passante
Distinguez les frais de location GPU des coûts de stockage et de bande passante qui s'accumulent autour des datasets d'entraînement et des checkpoints.
Gouvernance et budgets
Définissez des budgets par équipe ou par projet avant que les expérimentations ne se transforment en mauvaises surprises.
La page de facturation vous indique ce que vous avez dépensé. Cloud Intelligence™ vous aide à agir.
Au-delà de la page de facturation Vast.ai
Agrégations par type de GPU et par projet
Des vues consolidées sur toutes vos instances louées, avec exploration détaillée par modèle de GPU, projet ou équipe.
Alertes d'anomalies en temps réel
Détection par machine learning sur les dimensions instance, type de GPU et projet, avec notification sur Slack ou par e-mail.
Prévisions et budgets
Anticipez l'évolution de vos dépenses GPU à tarification marketplace et définissez des budgets avant que les coûts d'entraînement ne s'emballent.
Allocation des coûts rigoureuse
Attribuez les heures GPU aux équipes et aux projets, et répartissez l'infrastructure d'entraînement partagée selon les attentes de l'équipe finance.
Vue multi-cloud des coûts IA
Combinez vos locations Vast.ai avec vos dépenses GPU sur AWS ou Google Cloud pour une vision unifiée de vos coûts de calcul IA.
Forward Deployed Engineers
Des architectes cloud de premier plan qui travaillent comme une extension de votre équipe pour mettre en œuvre les optimisations.
Attribute + calcul IA
Reliez vos dépenses de calcul IA au travail qui les génère
Le capteur runtime d'Attribute couvre l'infrastructure et l'inférence IA, en reliant les coûts aux clients et aux workloads sans dépendre d'un programme de tagging. Associé aux données de dépenses Vast.ai dans DoiT, il vous permet de visualiser le coût réel de chaque client et de chaque workload. Idéal pour : les équipes IA qui veulent réunir l'attribution des coûts d'infrastructure et d'inférence dans une seule vue.
Couverture du calcul
Attribuez les coûts de vos workloads IA conteneurisés et basés sur des VM.
Attribution des services de données
Couvrez les bases de données, le stockage objet, les caches et les files d'attente qui alimentent vos pipelines.
Workloads autogérés
Attribuez les coûts Kafka, Elasticsearch et RabbitMQ liés à l'entraînement et au serving.
Couverture complète des API d'inférence
Capturez les appels d'invocation de modèles et de réponses en streaming sur l'ensemble de votre stack de serving.
Coûts par modèle
Décomposez vos dépenses d'inférence par modèle sur toute votre stack IA.
Vues par client et par workload
Identifiez le client et le workload responsables de chaque coût.
Anomalies infrastructure et IA
Détectez les dépenses inhabituelles sur l'infrastructure et l'inférence des modèles.
Les entreprises en forte croissance s'appuient sur Cloud Intelligence™
D'économies moyennes durant les 90 premiers jours
De délai moyen de mise en œuvre
“L'attention de DoiT portée à la fiabilité, combinée à la flexibilité du système, nous aide à optimiser en toute sécurité nos workloads Amazon EKS sans aucune intervention de nos ingénieurs.”
Oren Ashkenazy
Directeur DevOps et Cloud chez Fiverr
Prêt à connecter votre compte Vast.ai ?
Faites toute la lumière sur vos dépenses GPU Vast.ai.
Frequently asked
questions
Puis-je voir mes dépenses Vast.ai aux côtés de mes autres coûts cloud ?
Oui. Cloud Intelligence™ normalise les frais de location, de stockage et de bande passante Vast.ai dans la même couche de reporting que vos autres fournisseurs cloud. Vous pouvez ainsi comparer les coûts GPU entre plateformes et tout agréger par équipe ou par projet dans une seule vue.
Que faut-il pour connecter Vast.ai à Cloud Intelligence™ ?
Connectez-vous avec une clé API en lecture seule depuis votre compte Vast.ai. DoiT prend en charge l'ingestion et la normalisation de vos données de facturation et d'utilisation, sans agent à installer ni modification de vos workloads d'entraînement ou d'inférence. La plupart des équipes sont opérationnelles en moins d'une journée.
Quels types de GPU ou quelles instances représentent l'essentiel de mes dépenses ?
Les rapports vous permettent de passer du total des dépenses Vast.ai à une instance ou un modèle de GPU précis, et de filtrer par projet, équipe ou période. Vous voyez exactement quels entraînements et quels workloads de serving génèrent les coûts, sans exporter de factures.
Serai-je alerté si un entraînement ou une instance oubliée fait grimper ma facture ?
La détection d'anomalies s'exécute en continu sur vos dépenses Vast.ai. Lorsqu'un job d'entraînement incontrôlé ou une instance restée allumée toute la nuit fait dévier les coûts de la tendance attendue, vous recevez une alerte Slack ou e-mail avec la cause probable.
DoiT peut-il m'aider à repérer les instances GPU inactives ?
Oui. Comme vous payez vos locations Vast.ai à l'heure, que les GPU soient utilisés ou non, les instances inactives sont la première source de gaspillage. Cloud Intelligence™ met en évidence les dépenses des instances sans activité significative, pour que vous puissiez les arrêter avant que les heures ne s'accumulent.
Comment la tarification marketplace de Vast.ai affecte-t-elle le reporting des coûts ?
Les hébergeurs Vast.ai fixent leurs propres prix : vos tarifs effectifs varient donc selon l'offre et la demande. Cloud Intelligence™ présente vos frais réellement facturés au fil du temps, ce qui permet de voir facilement comment les variations de tarifs, les choix d'instances et l'utilisation contribuent chacun à votre facture.
Vast.ai m'affiche déjà ma facturation. Qu'apporte Cloud Intelligence™ en plus ?
La vue de facturation Vast.ai montre ce que vous avez dépensé sur cette seule plateforme. Cloud Intelligence™ y ajoute des agrégations multi-cloud, la détection d'anomalies, des budgets et des prévisions, l'allocation des coûts par équipe et par projet, ainsi que l'accès à des Forward Deployed Engineers qui vous aident à agir sur ce que révèlent les données.
Quels accès Cloud Intelligence™ obtient-il à mon compte Vast.ai, et comment sont-ils protégés ?
Cloud Intelligence™ utilise un accès API en lecture seule, avec un périmètre de moindre privilège. Nous ne démarrons, n'arrêtons ni ne modifions jamais vos instances sans votre accord, et la plateforme est certifiée SOC 2 Type II.