Introduzione
I chip ARM sono la scelta di riferimento per telefoni cellulari e piccoli dispositivi fin dall'uscita dell'Apple Newton nel 1993, e oggi alimentano la maggior parte degli smartphone che utilizziamo. Di recente questi chip sono entrati in un nuovo ambito: il cloud computing. AWS Graviton di Amazon, lanciato nel 2018, è stato il primo processore ARM progettato da una grande azienda cloud.
Il modello foundry, un modello di business di successo per la progettazione e la produzione di circuiti integrati, è stato adattato per realizzare CPU server ARM per il cloud. Ecco come viene generalmente implementato:
- ARM Holdings progetta SIP Core basati su architettura RISC e li concede in licenza ad altre aziende.
- Gli hyperscaler (Amazon, Google e Azure), che sono anche produttori di semiconduttori fabless, implementano questi SIP core, vi aggiungono ulteriori personalizzazioni e producono i tape-out delle CPU.
- Questi tape-out vengono poi inviati a una foundry pure-play di semiconduttori per la fabbricazione vera e propria del dispositivo.
La serie Neoverse di ARM è una famiglia di CPU progettate specificamente per cloud computing, HPC e workloads di AI.
In questo articolo metteremo a confronto, tramite benchmark, due implementazioni dell'architettura Neoverse V2: AWS Graviton 4 e Google Axion. Abbiamo escluso dal confronto Azure Cobalt 100, poiché utilizza una variante leggermente diversa dell'architettura Neoverse: la Neoverse N.
La test suite
Le applicazioni web sono tra i workloads cloud più diffusi. Per valutare le prestazioni delle CPU Graviton 4 e Axion su questo tipo di workloads ci affideremo ai TechEmpower Framework Benchmarks (TFB), che offrono test per diversi linguaggi di programmazione e framework. Per semplicità utilizzeremo il noto framework reattivo per applicazioni basato su JVM, Vert.x.
I test TFB valutano le prestazioni dei framework web in ambiti come il routing delle richieste, la gestione JSON, il throughput e l'interazione con il database (ORM mapping, caching e connection pooling). TFB richiede tre macchine virtuali per essere eseguito: un application server su cui distribuire il framework web, un database server e un load generator.
Configurazione dell'infrastruttura
Su AWS abbiamo utilizzato 3 VM R8g.xlarge (4 vCPU, 32 GiB di memoria) con 20 GB di storage (gp3 SSD). Tutte le VM sono state distribuite in un'unica AZ per ridurre al minimo la latenza di rete tra AZ.
Allo stesso modo, su GCP abbiamo utilizzato C4A-highmem-4 (4 vCPU, 32 GiB di memoria) con 20 GB di SSD. Tutte le VM sono distribuite in un'unica AZ.
Risultati del benchmark
I TFB si avvalgono di un potente strumento chiamato wrk per simulare carichi reali sugli application server. Ecco come funziona:
- wrk genera diversi livelli di richieste concorrenti, simulando varie intensità di traffico utente.
- Il benchmark traccia il numero di righe restituite in ogni scenario di test.
- Un numero di righe più alto indica prestazioni di CPU superiori, ovvero la capacità del processore di gestire più dati sotto pressione.
Ecco i risultati per ciascun caso di test (più alto è meglio):
Un valore più alto indica prestazioni superiori e dimostra la capacità del processore di gestire più dati sotto pressione (più alto è meglio).
Il grafico seguente riporta questi valori su un istogramma, evidenziando la differenza percentuale di prestazioni tra Graviton 4 e Axion.
Il grafico evidenzia la differenza percentuale di prestazioni tra Graviton 4 e Axion (più alto è meglio).
Conclusione
Da questi risultati emerge chiaramente che Axion, il più recente chip ARM di GCP, supera AWS Graviton in 5 casi di test su 7. Il vantaggio di Axion va da un significativo 9,85% a un impressionante 47,79% di miglioramento rispetto a Graviton 4. Soltanto in due casi di test (plaintext e multiple queries) Graviton offre prestazioni superiori, battendo Axion rispettivamente del 2,57% e del 3,69%. Sono necessari ulteriori approfondimenti per individuare il chip più adatto in base ai requisiti specifici dell'applicazione e alle considerazioni di costo.
Contattateci su DoiT. Il nostro team, composto esclusivamente da Engineers senior, è specializzato in consulenza cloud avanzata, progettazione architetturale, supporto al debugging e servizi di consulenza.