En tant que responsables engineering, nous vivons tous un changement de plateforme majeur. L'IA n'est plus un simple buzzword sur une slide : c'est un outil puissant qui transforme en profondeur notre façon de concevoir et de livrer des logiciels.
Mais intégrer l'IA n'est pas un défi unique, c'est une véritable expédition avec deux itinéraires parallèles, chacun exigeant sa propre carte. Le premier consiste à équiper nos développeurs. Le second, bien plus complexe, consiste à embarquer l'IA directement dans nos produits.
Réussir les deux est crucial, mais les enjeux sont radicalement différents, en particulier sur le sujet dont tout VP Engineering est comptable : le coût.
Expédition n°1 – L'IA pour les développeurs
C'est le plus simple des deux parcours. Et pourtant, il concentre déjà de nombreux défis. Pour n'en citer que quelques-uns :
- Comment mesurer le ROI ? L'IA améliore-t-elle réellement la vélocité, et dans quelle mesure ?
- Quel impact sur votre culture d'engineering et l'appropriation du code ?
- Quelles conséquences sur votre stratégie de recrutement et de constitution d'équipes ?
- Comment gérer les objections internes (venant généralement des profils les plus expérimentés) ?
Ce sont des sujets essentiels, à traiter un autre jour. Le modèle de coût, lui, est simple : un abonnement par utilisateur, prévisible – une ligne claire dans votre budget OpEx.
Expédition n°2 – L'IA dans votre produit
C'est là que la carte se complique. Lorsque vous embarquez l'IA dans votre solution, qu'il s'agisse d'un chatbot de support ou d'un service de synthèse backend, elle cesse d'être un simple outil. Elle devient une composante centrale de l'architecture de votre application.
Ce composant IA n'est plus une dépense opérationnelle fixe : c'est un coût variable qui évolue avec l'usage client, souvent de manière imprévisible.
Prenons une autre image : vous organisez une fête d'entreprise et vous dites au barman : Servez à volonté, tout est sur la même note. Différentes équipes sont présentes : sales, marketing, engineering, etc.
Le problème : à la fin de la soirée, le barman vous tend une addition qui ressemble davantage à un numéro de téléphone.
La question : cette facture astronomique vient-elle du fait que tout le monde a bu quelques bières (usage large et peu coûteux) ? Ou parce que l'équipe sales, célébrant la signature d'un nouveau client, a commandé des tournées de single malt de 50 ans d'âge pour toute sa table (un petit groupe d'utilisateurs avec un usage extrêmement coûteux) ?
Sans ticket détaillé, vous avancez à l'aveugle. Impossible de distinguer une consommation raisonnable d'un excès qui pulvérise le budget.
C'est exactement le problème auquel nous sommes confrontés dans notre univers d'engineering. Votre plateforme s'appuie sur plusieurs services d'IA, pour de multiples microservices, par exemple :
- Le microservice A alimente votre nouvelle fonctionnalité d'analytics dopée à l'IA pour vos clients premium.
- Le microservice B propose une fonctionnalité de synthèse intelligente accessible à tous les utilisateurs.
- Le microservice C exécute un traitement interne de catégorisation des tickets de support.
À la fin du mois, vous recevez une facture consolidée unique de votre fournisseur d'IA. Le CFO commence alors à poser les questions qui fâchent, et vous devez rattacher ces coûts aux services, fonctionnalités et même clients qui les ont générés. Comment faire ?
Ce n'est pas un cas d'école : c'est un défi que je rencontre au quotidien. La clé pour résoudre le dilemme de l'open bar, c'est d'obtenir un ticket détaillé pour chaque verre commandé.
Heureusement pour moi, je travaille chez Attribute™ et j'adore résoudre mes problèmes en buvant notre propre champagne.
Nous avons donc mis à profit notre capteur basé sur eBPF et ses capacités de deep packet inspection sur mes microservices, pour identifier non seulement quels services d'IA chaque microservice consomme, mais aussi quelle part de la facture totale il représente.
Concrètement, il agit comme un comptable méticuleux posté derrière le bar, qui consigne chaque requête. Il nous permet de comprendre non seulement quel service d'IA chaque microservice utilise, mais aussi précisément quelle part de la facture totale il consomme. Nous pouvons remonter chaque dollar dépensé en IA jusqu'à sa source, sans demander à nos développeurs de modifier une seule ligne de code.
Sans parler de la satisfaction de transformer un problème d'engineering en solution produit, désormais disponible pour l'ensemble de nos clients.
Aujourd'hui, je peux même me permettre d'inviter les différentes équipes de l'entreprise à un événement IA en mode open bar. Je sais qu'à la fin, je ne me retrouverai pas seul face à la finance avec l'addition sur les bras…