C'è uno schema che in questo momento si ripete in molti team di engineering.
Il team costruisce. Introduce strumenti di AI. Aggiunge funzionalità LLM al prodotto. Adozione a tutta velocità. E quando si tocca il tema della visibilità sui costi, la risposta è più o meno sempre la stessa: "Non è ancora una priorità. Ai costi penseremo una volta decollati".
Sembra ragionevole. Non lo è.
Il problema cresce prima che se ne accorga
I costi dell'AI non si accumulano in modo lento e visibile. Esplodono. Viene rilasciata una nuova funzionalità. Il traffico sale. Un singolo cliente inizia a usare il workflow AI dieci volte più di chiunque altro. Le chiamate all'LLM si moltiplicano. La bolletta cresce.
Quando il dato appare nella fattura del cloud, ha già settimane di ritardo. E quando ha individuato quale workload, quale cliente o quale team l'ha generato, si ritrova davanti a un problema che è cresciuto al buio.
L'idea che "sistemeremo i costi dopo il lancio" regge solo se, nel momento in cui decide di guardarli, i costi sono visibili. Nella maggior parte dei team non lo sono.
Il tagging qui non basterà
Il classico playbook FinOps dice: tagga le risorse, alloca per tag, rendiconta per team. Quel playbook è stato pensato per infrastrutture che si muovono lentamente. I workloads AI non si muovono lentamente.
Le chiamate LLM sono effimere. Una richiesta di inferenza a un modello non corrisponde a una risorsa taggata. Se ha dieci microservizi in esecuzione e uno qualsiasi potrebbe chiamare un LLM, l'export di billing non Le dirà quale. E di sicuro non Le dirà quale cliente l'ha innescata.
Nel tempo che serve al Suo team per progettare uno schema di tagging, distribuirlo e colmare le lacune, sono già state rilasciate altre tre funzionalità. La copertura resta sempre parziale. E le lacune sono sempre nei punti più costosi.
Il costo dell'attesa
Ecco cosa succede davvero quando i team aspettano:
Lanciano. L'utilizzo cresce più in fretta del previsto (nella migliore delle ipotesi). La spesa AI resta invisibile dentro una bolletta cloud aggregata. Nessuno sa quali clienti siano redditizi e quali costino più di quanto pagano. Le decisioni di pricing si prendono su basi ipotetiche. Un trimestre dopo, il CFO chiede dove sia finito il margine.
Un cliente di Attribute™ ha scoperto che 360 dei suoi account avevano un COGS mensile superiore ai ricavi generati. Oltre 1,3 milioni di dollari di perdite. Prima non ne aveva alcuna visibilità. Nessuno strumento esistente lo aveva fatto emergere, perché nessuno strumento esistente riusciva a collegare la spesa cloud a specifici account cliente senza tagging.
Non potevano arrivare a quella risposta con il tagging. L'infrastruttura era troppo complessa. I workloads erano condivisi. Le relazioni tra clienti e compute non erano registrate nei metadati delle risorse. Serviva un approccio diverso.
Anticipare significa sapere prima che arrivi la fattura
I team che gestiscono bene la crescita dei costi AI non sono quelli con la migliore disciplina sul tagging. Sono quelli che hanno visibilità a runtime.
Sanno quali clienti stanno alimentando quali workloads AI. Sanno quali microservizi fanno chiamate LLM e quanto costa ciascuna chiamata. E lo sanno in tempo utile per rivedere i prezzi, limitare l'utilizzo o avviare una conversazione commerciale con il cliente. Non a trimestre chiuso.
Non è un problema del team FinOps. È un problema di engineering e di prodotto. I team che costruiscono le funzionalità AI sono quelli che devono vedere il segnale di costo in anticipo, prima che diventi un'operazione di pulizia contabile.
Il momento giusto per attivarsi è adesso
Prima che i Suoi workloads AI scalino, ha una finestra. Ed è breve.
In questo momento la complessità è gestibile. I workloads sono nuovi. I pattern di utilizzo dei clienti si stanno formando. Se strumenta oggi l'attribuzione dei costi, avrà dati puliti fin dall'inizio. Non dovrà ricostruire lo storico da un export di billing dopo il picco.
I team che aspettano che i costi diventino un problema sono gli stessi che passano il trimestre successivo a costruire fogli di calcolo invece che funzionalità. Cercano di fare reverse engineering di ciò che avrebbero semplicemente potuto osservare.
Come funziona nella pratica
Attribute™ legge il Suo sistema in produzione tramite eBPF. Nessun tagging. Nessuna modifica alla strumentazione. Nessuna attesa dell'export di billing.
Dal primo giorno vede quali workloads stanno generando quali costi. Quali clienti stanno consumando la Sua infrastruttura AI e a quale prezzo. Quali chiamate LLM attraversano il Suo sistema e quanto costano, per workload, per funzionalità di prodotto e per cliente finale.
Quando la Sua spesa AI cresce, la vede in tempo reale. Sa quale cliente ha innescato il picco. Sa se il Suo pricing copre il costo per servirlo.
Smette di gestire i costi guardando indietro. Inizia a gestirli mentre accadono.
I costi dell'AI non diventeranno più semplici. I team che li anticipano oggi saranno quelli che manterranno buoni margini quando la crescita farà sul serio.
Se è in modalità build e la visibilità sui costi è a roadmap, vale la pena chiedersi: che aspetto avrà la fattura, quando sarà pronto a guardarla?