Como líderes de Engineering, todos estamos atravesando un cambio de plataforma enorme. La IA ya no es solo una palabra de moda en una presentación: es una herramienta potente que está transformando de raíz la forma en que construimos y entregamos software.
Ahora bien, integrar IA no es un único desafío; es una expedición con dos rutas paralelas, y cada una exige un mapa completamente distinto. La primera consiste en equipar a nuestros developers. La segunda, mucho más compleja, es incrustar la IA directamente en nuestros productos.
Recorrer ambas con éxito es clave, pero los retos son muy distintos, sobre todo cuando hablamos de aquello por lo que todo VP of Engineering siempre rinde cuentas: el costo.
Ruta 1 de la expedición: IA para developers
Podría considerarse la ruta más directa de las dos. Y aun así, encierra un montón de desafíos. Por nombrar algunos:
- ¿Cómo se mide el ROI? ¿Realmente mejora la velocidad y en qué medida?
- ¿Qué impacto tiene sobre la cultura de Engineering y el ownership del código?
- ¿Cómo afecta tu estrategia de armado de equipos y de reclutamiento?
- ¿Cómo se gestionan las objeciones internas (que suelen venir del talento más senior)?
Aunque estos son temas críticos para otro momento, el modelo de costos es simple: una licencia predecible por usuario, una línea clara dentro de tu presupuesto de OpEx.
Ruta 2 de la expedición: IA dentro de tu producto
Acá es donde el mapa se complica. Cuando incrustas IA en tu solución, ya sea un chatbot de soporte o un servicio de resumen en el backend, deja de ser una simple herramienta. Se vuelve un componente central de la arquitectura de tu aplicación.
Ese componente de IA no es un gasto operativo fijo; se convierte en un costo variable que escala con el uso de los clientes, muchas veces de maneras impredecibles.
Miralo de otro modo: imaginate que organizas la fiesta de la empresa y le dices al bartender: "Que no se corten los tragos, va todo a una sola cuenta". En la fiesta hay distintos equipos: ventas, marketing, engineering, etc.
El problema: al final de la noche, el bartender te entrega una cuenta que parece un número de teléfono.
La pregunta: ¿la cuenta es descomunal porque todos en la fiesta se tomaron un par de cervezas (uso amplio y de bajo costo)? ¿O porque el equipo de ventas, celebrando un nuevo cliente, decidió pedir rondas de whisky single-malt de 50 años para toda su mesa (un grupo chico con un consumo carísimo)?
Sin un recibo detallado, estás volando a ciegas. No hay forma de distinguir entre un consumo razonable y un exceso que arrasa con el presupuesto.
Este es exactamente el problema al que nos enfrentamos en el mundo de Engineering. Tu plataforma usa varios servicios de IA para múltiples microservicios, por ejemplo:
- El Microservicio A impulsa tu nueva funcionalidad de analítica con IA para clientes premium.
- El Microservicio B maneja una función de "resumen inteligente" disponible para todos los usuarios.
- El Microservicio C ejecuta un proceso interno para categorizar tickets de soporte.
A fin de mes, recibes una única factura consolidada de tu proveedor de IA. Ahora el CFO empieza con las preguntas incómodas y te toca atribuir esos costos a los servicios, funcionalidades e incluso clientes específicos que los generaron. ¿Cómo se hace?
No es un problema hipotético; es uno al que me enfrento todos los días. La clave para resolver el dilema del "open bar" está en conseguir un recibo detallado por cada "trago" que se pide.
Por suerte para mí, trabajo en Attribute™ y me encanta resolver mis propios problemas "tomándonos nuestra propia champaña".
Así que apoyamos nuestro sensor basado en eBPF, con sus capacidades de deep packet inspection, sobre mis microservicios, para entender no solo qué servicios de IA consume cada microservicio, sino también cuánto aporta al total de la factura.
En la práctica funciona como un contador meticuloso parado detrás de la barra, registrando cada pedido. Nos permite entender no solo qué servicio de IA consume cada microservicio, sino exactamente cuánto pesa dentro del total de la factura. Podemos rastrear cada dólar gastado en IA hasta su origen, sin pedirle a nuestros developers que toquen su código.
Y ni hablar de la enorme satisfacción de convertir un "problema de engineering" en una solución de producto, que ahora también ofrecemos a todos nuestros clientes.
Ahora también puedo invitar tranquilo a los distintos equipos de la empresa a un evento de IA tipo "Open Bar". Sé que, al final del día, no me voy a quedar solo dando la cara ante finanzas con la factura en la mano…