Configuración
Una API key. Visibilidad total de Vast.ai.
Conecta tu cuenta de Vast.ai con una API key de solo lectura. DoiT importa automáticamente tus cargos de renta, almacenamiento y ancho de banda. Sin agentes y sin cambios en tus workloads de entrenamiento o inferencia. A las pocas horas de conectarte ya estás viendo reportes unificados de costos de GPU.
Lo que obtienes
Diseñado para la realidad de rentar GPUs en un marketplace
Lo que los equipos de IA y FinOps realmente nos piden cuando su gasto en GPU pasa a precios de marketplace en Vast.ai.
Reportes de gasto en GPU
Segmenta el gasto en Vast.ai por tipo de GPU, instancia, proyecto o equipo sin exportar facturas a hojas de cálculo.
Anomalías en tiempo real
Recibe alertas cuando una ejecución de entrenamiento o una instancia olvidada dispara tu factura.
Detección de GPUs inactivas
Identifica instancias rentadas que están sin uso y deja de pagar por horas de GPU que no aprovechas.
Contexto multinube
Consulta el gasto en Vast.ai junto al de tus otros proveedores de nube en un solo reporte.
Visibilidad de almacenamiento y ancho de banda
Separa los cargos de renta de GPU de los costos de almacenamiento y ancho de banda que se acumulan alrededor de los datasets de entrenamiento y los checkpoints.
Gobernanza y presupuestos
Define presupuestos por equipo o proyecto antes de que los experimentos se conviertan en sorpresas.
La página de facturación te dice cuánto gastaste. Cloud Intelligence™ te ayuda a hacer algo al respecto.
Más allá de la página de facturación de Vast.ai
Consolidados por tipo de GPU y proyecto
Vistas consolidadas de cada instancia rentada, con detalle por modelo de GPU, proyecto o equipo.
Alertas de anomalías en tiempo real
Detección con machine learning por instancia, tipo de GPU y proyecto, enviada a Slack o por correo.
Pronósticos y presupuestos
Proyecta hacia dónde va tu gasto en GPU a precios de marketplace y define presupuestos antes de que los costos de entrenamiento se descontrolen.
Asignación de costos impecable
Atribuye las horas de GPU a equipos y proyectos, y divide la infraestructura de entrenamiento compartida tal como lo espera finanzas.
Vista multinube de costos de IA
Combina las rentas de Vast.ai con el gasto en GPU de AWS o Google Cloud para tener una sola imagen de tus costos de cómputo de IA.
Forward Deployed Engineers
Arquitectos de nube de clase mundial que trabajan como una extensión de tu equipo para implementar optimizaciones.
Attribute + cómputo de IA
Relaciona el gasto en cómputo de IA con el trabajo que lo genera
El sensor en tiempo de ejecución de Attribute cubre infraestructura e inferencia de IA, asignando los costos a clientes y workloads sin depender de un programa de etiquetado. Combinado con los datos de gasto de Vast.ai en DoiT, puedes ver cuánto cuesta realmente cada cliente y cada workload. Ideal para: equipos de IA que quieren la atribución de costos de infraestructura e inferencia en una sola vista.
Cobertura de cómputo
Atribuye costos en workloads de IA en contenedores y en VMs.
Atribución de servicios de datos
Cubre las bases de datos, el almacenamiento de objetos, los cachés y las colas que alimentan tus pipelines.
Workloads autogestionados
Atribuye los costos de Kafka, Elasticsearch y RabbitMQ que respaldan el entrenamiento y el serving de modelos.
Cobertura total de APIs de inferencia
Captura las llamadas de invocación de modelos y de respuestas en streaming en todo tu stack de serving.
Costos por modelo
Desglosa el gasto en inferencia por modelo en todo tu stack de IA.
Vistas por cliente y workload
Muestra qué cliente y qué workload es responsable de cada costo.
Anomalías de infraestructura e IA
Detecta gastos inusuales tanto en la infraestructura como en la inferencia de modelos.
Las empresas que crecen rápido confían en Cloud Intelligence™
Ahorro promedio en los primeros 90 días
Tiempo promedio de implementación
“El enfoque de DoiT en la confiabilidad, sumado a la flexibilidad del sistema, nos ayuda a optimizar de forma segura nuestros workloads de Amazon EKS sin que nuestros ingenieros tengan que intervenir.”
Oren Ashkenazy
Director de DevOps y Cloud en Fiverr
¿Todo listo para conectar tu cuenta de Vast.ai?
Pon tu gasto en GPU de Vast.ai bajo la lupa.
Frequently asked
questions
¿Puedo ver el gasto en Vast.ai junto a mis otros costos de nube?
Sí. Cloud Intelligence™ normaliza los cargos de renta, almacenamiento y ancho de banda de Vast.ai en la misma capa de reportes que tus otros proveedores de nube, para que puedas comparar los costos de GPU entre plataformas y consolidar todo por equipo o proyecto en una sola vista.
¿Qué implica conectar Vast.ai a Cloud Intelligence™?
Conéctate con una API key de solo lectura desde tu cuenta de Vast.ai. DoiT se encarga de importar y normalizar tus datos de facturación y uso, sin agentes que instalar y sin cambios en tus workloads de entrenamiento o inferencia. La mayoría de los equipos están operando en menos de un día.
¿Qué tipos de GPU o instancias concentran la mayor parte de mi gasto?
Los reportes te permiten ir del gasto total en Vast.ai hasta una instancia o un modelo de GPU específico, y filtrar por proyecto, equipo o rango de tiempo. Puedes ver exactamente qué ejecuciones de entrenamiento y qué workloads de serving están generando los costos, sin exportar facturas.
¿Recibiré una alerta si una ejecución de entrenamiento o una instancia olvidada dispara mi factura?
La detección de anomalías se ejecuta de forma continua sobre tu gasto en Vast.ai. Cuando un entrenamiento descontrolado o una instancia que quedó encendida toda la noche saca los costos del patrón esperado, recibes una alerta por Slack o correo con la causa probable.
¿Puede DoiT ayudarme a encontrar instancias de GPU inactivas?
Sí. Como las rentas de Vast.ai se pagan por hora, estén las GPUs ocupadas o no, las instancias inactivas son la fuente de pérdida más común. Cloud Intelligence™ muestra el gasto en instancias sin actividad relevante para que puedas detenerlas antes de que las horas se acumulen.
¿Cómo afectan los precios de marketplace de Vast.ai a los reportes de costos?
Los hosts de Vast.ai fijan sus propios precios, así que lo que pagas realmente cambia según la oferta y la demanda. Cloud Intelligence™ reporta los cargos que de verdad se te facturan a lo largo del tiempo, lo que facilita ver cómo los cambios de precio, la elección de instancias y el uso contribuyen a tu factura.
Vast.ai ya me muestra mi facturación. ¿Qué aporta Cloud Intelligence™?
La vista de facturación de Vast.ai muestra lo que gastaste en esa única plataforma. Cloud Intelligence™ suma consolidados multinube, detección de anomalías, presupuestos y pronósticos, asignación de costos por equipo y proyecto, y acceso a Forward Deployed Engineers que te ayudan a actuar sobre lo que muestran los datos.
¿Qué acceso tiene Cloud Intelligence™ a mi cuenta de Vast.ai y cómo se protege?
Cloud Intelligence™ usa acceso de API de solo lectura con privilegios mínimos. Nunca iniciamos, detenemos ni modificamos tus instancias sin tu aprobación, y la plataforma cuenta con la certificación SOC 2 Type II.