Cloud Intelligence™Cloud Intelligence™

Cloud Intelligence™

Più token, meno spesa: perché il conteggio dei token classifica i costi degli agenti AI al contrario

Un confronto di un giorno, su un singolo account, tra sei workloads di agenti ha rilevato che a decidere quali fossero i più economici era il costo del compute, non il volume di token.

Questa pagina è disponibile anche in English, Deutsch, Español, Français, 日本語 e Português.

By Richard KangAug 31, 20269 min readPreferred source

Le cifre sono lette direttamente dagli screenshot delle dashboard live di un account sandbox DoiT, non modellate a partire da un listino prezzi.

Più token, meno spesa: perché il conteggio dei token classifica i costi degli agenti AI al contrario

In sintesi: il conteggio dei token e il costo degli agenti AI possono puntare in direzioni opposte. In una sandbox AWS live, il 2026-08-15, i tre agenti con più token erano i tre più economici da eseguire, e i tre agenti con meno token erano i tre più costosi: un'inversione completa. Il motivo è il compute, non i token: ogni agente gira come servizio Fargate long-running dedicato, e Fargate rappresentava dal 57 all'80% del costo giornaliero per i tre workloads con ripartizione completa delle risorse, e appena il 26% per un quarto workload più leggero. AWS Cost Explorer non può mostrare il costo per agente: raggruppa tutti gli agenti in un'unica riga a livello di servizio. È la ripartizione delle risorse per workload a far emergere la classifica nascosta dietro la fattura.

Chi classifica i costi degli agenti AI in base al consumo di token rischia di ordinarli esattamente al contrario.

Il 2026-08-15 UTC, una giornata con dati ormai consolidati nel nostro account doit-apj-attribute-sandbox in us-east-1, i tre agenti con più token di un'applicazione erano anche i suoi tre più economici, e i tre agenti con meno token erano i suoi tre più costosi. Il divario di token tra quei due gruppi è di due volte e mezzo, e va nella direzione opposta rispetto ai dollari. L'arrotondamento in visualizzazione non basta nemmeno lontanamente a spiegarlo.

Ogni cifra in dollari e ogni conteggio di token riportati qui sotto sono letti direttamente da cinque screenshot di quell'account sandbox: un report live di AWS Cost Explorer e quattro viste live di DoiT Attribute. Nessuno è modellato su un listino prezzi. Le percentuali e le tariffe per milione sono frutto dei nostri calcoli sulle cifre visualizzate, segnalati come tali dove compaiono, e alla colonna di Cost Explorer si applica la sua stessa nota sui "costi stimati". Una sesta immagine, più avanti nel post, è un diagramma illustrativo dell'architettura, non uno screenshot di una dashboard.

Cosa AWS Cost Explorer non può dire sui costi degli agenti AI

Partiamo da AWS Cost Explorer per quella giornata: granularità giornaliera, raggruppamento per servizio, costi ammortizzati.

AWS Cost Explorer, giornaliero per servizio, dal 2026-08-12 al 2026-08-19

La colonna del 2026-08-15:

Total costs $9.98
Elastic Container Service $5.99
Claude Haiku 4.5 (Bedrock Edition) $2.24
VPC $1.01
Claude Opus 5 (Bedrock Edition) $0.70

Corretto, e inutile per rispondere a questa domanda. Tutti gli agenti dell'applicazione condividono quell'unica riga Fargate da $5.99 e quell'unica riga Haiku da $2.24. La fattura ha una dimensione servizio e una dimensione account. Non ha una dimensione agente, quindi non può classificare gli agenti in alcun modo, in nessuna direzione.

Attenzione alle note a piè di pagina del report stesso: le date sono in UTC e le cifre del periodo di fatturazione corrente sono contrassegnate come stimate.

L'inversione dei costi degli agenti AI

Lo stesso giorno, in Attribute a granularità di workload, con filtro sui workloads luminara-* dell'account sandbox:

Workloads in Attribute, 2026-08-15

Il totale Cost (1 Day) $8.8 di quella vista è la somma dei sette workloads luminara-* mostrati qui, filtrati su questo singolo account. Non è confrontabile con il totale di $9.98 di Cost Explorer riportato sopra, che copre tutti i costi dell'account, non solo la spesa Fargate e modello di questi sette workloads.

Leggendo da quell'elenco i sei workloads luminara-* di orchestrazione e specialistici:

Workload Token Costo Posizione token Posizione costo
luminara-orchestrator 125.75K $1.48 4 1
luminara-chain 123.73K $1.48 5 1
luminara-conditional 115.27K $1.46 6 3
luminara-route 315.01K $1.23 1 4
luminara-sites 265.49K $1.16 2 5
luminara-dining 169.64K $1.07 3 6

Il raggruppamento è un'inversione netta. I tre workloads con meno token sono i tre più costosi, e i tre workloads con più token sono i tre più economici. Il confronto più netto è quello tra luminara-route e luminara-orchestrator: 2,5 volte i token, e $0.25 in meno nella giornata.

I primi tre distano tra loro meno di $0.02, quindi il loro ordine interno non è significativo a questa precisione di visualizzazione. L'inversione a livello di gruppo è molto più grande di quel margine.

Se la sua dashboard è un contatore di token, questa applicazione sembra dominata da luminara-route, che in realtà è il più economico dei sei.

Perché è il compute, non i token, a decidere la classifica dei costi degli agenti AI

Ogni agente luminara-* gira come servizio ECS Fargate long-running dedicato che chiama Bedrock per l'inferenza. È questo fatto strutturale il motivo per cui esiste una riga Fargate, distinta dalla riga del modello: Fargate fattura il compute provisionato nel tempo, Bedrock fattura per token consumato, e sono due assi di costo indipendenti.

Architettura illustrativa: perché Fargate e Bedrock sono voci di costo separate

  1. Il client invia una richiesta al servizio ECS Fargate dell'agente.
  2. Il servizio Fargate esegue il loop dell'agente e chiama Amazon Bedrock per l'inferenza LLM.
  3. Bedrock restituisce la risposta del modello al servizio Fargate.
  4. Solo per luminara-toolcall, il servizio Fargate chiama il Bedrock AgentCore Gateway per invocare i tool.
  5. Il Gateway smista le chiamate a tre funzioni Lambda dietro quattro tool.
  6. Solo per luminara-orchestrator, il servizio Fargate scrive eventi di audit nella coda SQS luminara-trajectory-audit.
  7. Il servizio Fargate restituisce la risposta finale al client.

Attribute suddivide ogni workload nelle sue risorse. I drill-down dei due estremi spiegano l'inversione.

Ripartizione delle risorse in Attribute per luminara-orchestrator, 2026-08-15

luminara-orchestrator — Total resources cost: $1.48 (1 - 3 Out of 3)
luminara-poc EC2-ECS $1.18 20%
us.anthropic.claude-haiku-4-5-20251001-v1 AmazonBedrock $0.30 125.75K Tokens 13%
luminara-trajectory-audit AWSQueueService $0.00 --

Ripartizione delle risorse in Attribute per luminara-route, 2026-08-15

luminara-route — Total resources cost: $1.23 (1 - 2 Out of 2)
luminara-poc EC2-ECS $0.70 12%
us.anthropic.claude-haiku-4-5-20251001-v1 AmazonBedrock $0.53 315.01K Tokens 24%

luminara-route spende davvero di più per il modello, $0.53 contro $0.30. Eppure risulta comunque più economico, perché la riga Fargate dell'orchestratore è di $1.18 contro i $0.70 di route.

Le percentuali in quei due screenshot (20%, 13%, 12%, 24%) sono la metrica Resource Accountability di Attribute per singola riga di risorsa, non una quota del costo del workload; sono riprodotte così come visualizzate. Le quote Fargate riportate sotto sono un nostro calcolo sui totali in dollari, un numero diverso.

Calcolando le quote a partire da quelle cifre:

Workload Fargate Modello Quota Fargate
luminara-orchestrator $1.18 $0.30 80%
luminara-route $0.70 $0.53 57%

In entrambi i casi il compute rappresenta la maggior parte del costo giornaliero, ed è la variabile che decide la classifica. I token sono la componente minoritaria, che una dashboard basata sui token tratta come se fosse l'intero quadro.

luminara-dining esclude che si tratti di una coincidenza tra due soli punti:

Ripartizione delle risorse in Attribute per luminara-dining, 2026-08-15

luminara-dining — Total resources cost: $1.07 (1 - 2 Out of 2)
luminara-poc EC2-ECS $0.70 12%
us.anthropic.claude-haiku-4-5-20251001-v1 AmazonBedrock $0.38 169.64K Tokens 17%

Mostra la stessa riga Fargate da $0.70 di luminara-route, due servizi specialistici dimensionati in modo analogo, mentre l'orchestratore si attesta a $1.18. Un quarto workload, luminara-toolcall, si ferma a $0.24 di Fargate su una giornata da $0.93, ovvero il 26%, all'estremità bassa dello stesso spettro. La ripartizione delle risorse dietro quella cifra è conservata nel set di evidenze, ma non è riprodotta in questo post.

Non presentiamo la predominanza del compute come una scoperta nuova. Una cattura di dashboard su 30 giorni, conclusa il 2026-08-21 e conservata nel set di evidenze, aveva già misurato la quota EC2-ECS di luminara-orchestrator al 71%, e la citiamo solo per mostrare che lo stesso andamento vale su una finestra diversa. La novità sta nella conseguenza. Poiché la componente compute domina e varia in base al ruolo del workload, è questa a decidere la classifica, e la classifica che produce è l'inverso di quella dei token. Non avanziamo alcuna affermazione su architetture diverse da questi workloads.

La terza risorsa dell'orchestratore, luminara-trajectory-audit, è una riga AWSQueueService a $0.00. Attribute censisce la risorsa anche quando quel giorno non costa nulla, ed è proprio così che si scopre che questo agente ha una dipendenza da una coda.

Cloud bill shouldn't be a mystery

One platform for AI and Cloud optimization.

Cosa significa per il monitoraggio dei costi degli agenti AI

Il conteggio dei token non è un proxy del costo totale degli agenti AI

È un proxy dei costi della sola voce modello, e nei tre workloads che abbiamo analizzato in dettaglio la voce modello valeva tra il 20% e il 43% del costo giornaliero del workload. Qualsiasi vista dei costi per agente costruita esclusivamente sugli oggetti usage classificherà male la flotta ogni volta che i footprint di compute differiscono, cioè ogni volta che gli agenti differiscono per ruolo di orchestrazione, come un orchestratore centrale rispetto a workloads specialistici più circoscritti.

Per classificare gli agenti AI in base al costo è servita una vista del compute per workload

La contabilità dei token lato client non vede affatto Fargate. La fattura vede Fargate e lo raggruppa in un'unica riga. La suddivisione per workload mostrata sopra è il contributo specifico di Attribute in questo caso, ed è ciò che ha ribaltato la risposta.

Nessuna delle due cose rende questa una classifica di efficienza. Questi workloads svolgono compiti diversi con volumi di richieste diversi; ciò che viene misurato qui è il costo giornaliero per workload, non il costo per richiesta, per obiettivo completato o per unità di qualità. Più economico al giorno non equivale a più economico per unità di lavoro.

FAQ

Un maggiore utilizzo di token significa un costo più alto per un agente AI? Non necessariamente. In questa analisi, i tre agenti con più token erano i tre più economici da eseguire, e i tre agenti con meno token erano i tre più costosi. Il volume di token traccia solo la voce del modello, non il costo totale di esecuzione dell'agente.

Perché AWS Cost Explorer non può mostrare il costo per singolo agente AI? Cost Explorer raggruppa per servizio e per account, non per agente. Tutti gli agenti di un'applicazione condividono le stesse voci Fargate e Bedrock, quindi nella fattura non esiste una dimensione che consenta di suddividere il costo per singolo agente.

Cosa determina il costo di un agente AI, se non i token? Il compute. Nei tre workloads con ripartizione completa delle risorse, la voce di compute Fargate valeva dal 57 all'80% del costo giornaliero contro il 20–43% della voce modello; la quota Fargate di un quarto workload più leggero scendeva fino al 26%. Il costo varia in base al ruolo di orchestrazione, non in base a quanti token consuma un workload.

Come si misura il costo per agente AI su un'infrastruttura condivisa? Suddividendo ogni workload nelle sue risorse sottostanti, come compute, chiamate al modello e qualsiasi altra risorsa fatturata come una coda, invece di affidarsi al conteggio dei token o a una riga di fatturazione aggregata. Attribute lo fa a livello di workload usando dati di runtime anziché tag.

La stima dei costi basata sui token è affidabile per i sistemi di AI agentica? Non da sola. I token sono un proxy solo per la voce del modello. Una vista basata solo sui token può classificare male i workloads quando i loro costi di compute differiscono, come è successo per i sei workloads misurati qui.

Per misurare correttamente i costi degli agenti AI serve una vista del compute per workload, non un conteggio di token.