Come leader dell'engineering, stiamo tutti attraversando un enorme cambio di piattaforma. L'AI non è più solo una buzzword in una slide: è uno strumento potente che sta cambiando radicalmente il modo in cui costruiamo e rilasciamo software.
Integrare l'AI, però, non è una sfida singola: è una grande spedizione che si sviluppa lungo due percorsi paralleli, ciascuno con la propria mappa. Il primo è mettere gli sviluppatori nelle condizioni giuste. Il secondo, molto più complesso, è integrare l'AI direttamente nei nostri prodotti.
Portare a termine entrambi con successo è cruciale, ma le sfide sono molto diverse, soprattutto quando si parla dell'unica cosa di cui ogni VP of Engineering deve rispondere: il costo.
Spedizione 1 – AI per gli sviluppatori
È il percorso apparentemente più lineare dei due. Eppure racchiude in sé numerose sfide. Per citarne alcune:
- Come si misura il ROI? Sta davvero aumentando la velocity e di quanto?
- Qual è l'impatto sulla cultura dell'engineering e sulla code ownership?
- In che modo incide sulla strategia di team building e di recruiting?
- Come si gestiscono le obiezioni interne (di solito da parte dei talenti più senior)?
Sono temi cruciali che meritano un discorso a parte, ma il modello di costo è semplice: una license fee per postazione, prevedibile, una voce chiara del budget OpEx.
Spedizione 2 – AI dentro il prodotto
Qui la mappa si fa insidiosa. Quando si integra l'AI nella propria soluzione, che sia un chatbot di supporto o un servizio di summarization sul backend, non è più un semplice strumento. Diventa una componente centrale dell'architettura applicativa.
Questa componente AI non è una spesa operativa fissa: diventa un costo variabile che scala con l'utilizzo dei clienti, spesso in modo imprevedibile.
Vediamola in un altro modo: state organizzando una festa aziendale e dite al barman: "Che i drink non manchino mai, va tutto sullo stesso conto". Alla festa ci sono diversi team: sales, marketing, engineering e così via.
Il problema: a fine serata, il barman vi consegna un conto che assomiglia più a un numero di telefono.
La domanda: quella cifra astronomica è dovuta al fatto che tutti alla festa hanno bevuto un paio di birre (utilizzo ampio e a basso costo)? Oppure è colpa del team sales che, per festeggiare un nuovo cliente, ha ordinato giri di single malt scotch invecchiato 50 anni per tutto il tavolo (un piccolo gruppo di utenti con un utilizzo estremamente costoso)?
Senza uno scontrino dettagliato, si procede alla cieca. Non si riesce a distinguere un consumo ragionevole da un eccesso che fa saltare il budget.
È esattamente il problema che affrontiamo nel nostro mondo engineering. La vostra piattaforma usa diversi servizi AI, per più microservizi, ad esempio:
- Il microservizio A alimenta la nuova funzionalità di analytics AI-driven per i clienti premium.
- Il microservizio B gestisce una funzione di "smart summarization" disponibile per tutti gli utenti.
- Il microservizio C esegue un processo interno per categorizzare i ticket di supporto.
A fine mese arriva un'unica fattura consolidata dal provider AI. A quel punto il CFO comincia a fare le domande scomode e vi tocca ricondurre quei costi ai servizi, alle funzionalità e persino ai clienti specifici che li hanno generati. Come si fa?
Non è un problema ipotetico: è quello che affronto ogni giorno. La chiave per risolvere il dilemma dell'"open bar" è ottenere uno scontrino dettagliato per ogni singolo "drink" ordinato.
Fortuna vuole che io lavori in Attribute™ e adori risolvere i miei problemi con il principio del "Drinking our own Champagne".
Così abbiamo puntato il nostro sensore basato su eBPF, con le sue capacità di deep packet inspection, sui miei microservizi, per capire non solo quali servizi AI ciascun microservizio sta consumando, ma anche quanto pesa sul totale della fattura.
Di fatto si comporta come un contabile scrupoloso dietro al bancone, che registra ogni singola richiesta. Ci permette di capire non solo quale servizio AI ciascun microservizio sta consumando, ma esattamente quanto incide sul totale della fattura. Possiamo tracciare ogni dollaro di spesa AI fino alla sua origine, senza chiedere agli sviluppatori di modificare il codice.
Per non parlare della soddisfazione di trasformare un "problema di engineering" in una soluzione di prodotto, oggi disponibile anche per tutti i nostri clienti.
Ora posso anche invitare senza timori i vari team dell'azienda a un evento AI in modalità "Open Bar". So che, a fine giornata, non resterò da solo con il conto in mano davanti al reparto finance…