Cloud Intelligence™Cloud Intelligence™

Cloud Intelligence™

A conta de IA no esquema "Open Bar" – crime real da vida de um VP de Engenharia

By Izhak ZimmermannOct 15, 20254 min read

Esta página também está disponível em English, Deutsch, Español, Français, Italiano e 日本語.

Como líderes de engenharia, estamos todos vivendo uma enorme mudança de plataforma. A IA deixou de ser só um buzzword em apresentação; virou uma ferramenta poderosa que está mudando de forma profunda como construímos e entregamos software.

Só que integrar IA não é um desafio único: é uma grande expedição com duas jornadas paralelas, cada uma exigindo mapas completamente diferentes. A primeira é equipar os nossos desenvolvedores. A segunda, muito mais complexa, é embutir a IA diretamente nos nossos produtos.

Ter sucesso nas duas é essencial, mas os desafios são bem distintos, principalmente quando o assunto é aquilo pelo qual todo VP de Engenharia responde: custo.

Jornada 1 da expedição – IA para desenvolvedores

Dá para dizer que essa é a mais direta das duas. Ainda assim, carrega vários desafios. Para citar alguns:

  • Como medir o ROI? Está realmente aumentando a velocidade? E em quanto?
  • Qual o impacto na cultura de engenharia e no senso de dono do código?
  • Como isso afeta a estratégia de montagem de times e recrutamento?
  • Como lidar com objeções internas (que costumam vir dos talentos mais sêniores)?

Embora esses temas mereçam uma conversa à parte, o modelo de custo é simples. É uma licença previsível, por assento — uma linha clara no seu orçamento de OpEx.

Jornada 2 da expedição – IA no seu produto

É aqui que o mapa fica complicado. Quando você embute IA na sua solução, seja um chatbot de suporte ou um serviço de sumarização no backend, ela deixa de ser uma ferramenta simples. Passa a ser um componente central da arquitetura da sua aplicação.

Esse componente de IA não é uma despesa operacional fixa; vira um custo variável que escala com o uso do cliente, muitas vezes de forma imprevisível.

Olhando de outro ângulo: imagine que você está organizando a festa da empresa e diz para o bartender: "Pode manter as bebidas rolando, tá tudo na mesma conta". Você tem vários times na festa: vendas, marketing, engenharia etc.

O problema: no fim da noite, o bartender te entrega uma conta que mais parece um número de telefone.

A pergunta: essa conta gigante é porque todo mundo na festa tomou umas cervejas (uso amplo e barato)? Ou é porque o time de vendas, comemorando um novo cliente, resolveu pedir rodadas de single malt de 50 anos para todos na mesa (um grupo pequeno com um consumo caríssimo)?

Sem um recibo detalhado, você fica voando às cegas. Não dá para diferenciar consumo razoável de excesso que arrasa o orçamento.

Esse é exatamente o problema que enfrentamos no nosso mundo de engenharia. A sua plataforma usa vários serviços de IA em vários microsserviços, por exemplo:

  • O microsserviço A sustenta o novo recurso de analytics com IA para clientes premium.
  • O microsserviço B cuida de uma "sumarização inteligente" disponível para todos os usuários.
  • O microsserviço C roda um processo interno para categorizar tickets de suporte.

No fim do mês, você recebe uma conta consolidada do seu provedor de IA. Aí o CFO começa a fazer as perguntas difíceis, e você precisa atribuir esses custos aos serviços, recursos e até clientes específicos que os geraram. Como fazer isso?

Não é um problema hipotético; é o que enfrento todo dia. A chave para resolver o dilema do "open bar" é ter um recibo detalhado de cada "drink" pedido.

Por sorte, trabalho na Attribute™ e adoro resolver os meus problemas "bebendo do nosso próprio champanhe".

Então colocamos o nosso sensor baseado em eBPF, com seus recursos de deep packet inspection, para atuar nos meus microsserviços, entendendo não só quais serviços de IA cada microsserviço consome, mas também quanto consumiu do total da conta.

Na prática, ele age como um contador meticuloso atrás do balcão, registrando cada requisição. Isso permite entender não só quais serviços de IA cada microsserviço está consumindo, mas exatamente quanto ele consumiu do total da conta. Conseguimos rastrear cada dólar gasto em IA até a origem, sem exigir que os nossos desenvolvedores mexam no código.

Sem falar na ótima sensação de transformar um "problema de engenharia" em uma solução de produto — que agora também está disponível para todos os nossos clientes.

Agora eu também posso, tranquilamente, chamar os diferentes times da empresa para um evento de IA no esquema "Open Bar". Sei que, no fim das contas, não vou ficar sozinho encarando o financeiro com a conta na mão…