La strategia hardware di AWS si spiega con una sola frase, ripetuta da anni dai suoi dirigenti: tutto ciò che è indifferenziato deve costare il meno possibile. Applicata al silicio, quella frase ha prodotto una delle operazioni di integrazione verticale più efficaci del settore.
Le origini
Nel 2015 Amazon compra Annapurna Labs, una startup israeliana di poche decine di persone che progetta chip di rete. La prima applicazione è il sistema Nitro: spostare virtualizzazione, rete e storage su schede dedicate, liberando la CPU del server per il cliente. È un lavoro invisibile che cambia l'economia di ogni istanza EC2.
Da lì la scala sale. Nel 2018 arriva Graviton, la CPU Arm progettata in casa, oggi alla base di una quota molto significativa della nuova capacità di calcolo AWS. Nello stesso periodo nasce Inferentia, acceleratore per inferenza, e poi Trainium per l'addestramento. Non è un esperimento: è una linea di prodotto con generazioni successive e volumi industriali.
Cosa fa davvero
Trainium è un acceleratore progettato per una cosa sola: far girare i carichi AI dei clienti AWS al costo più basso possibile per unità di lavoro. Non deve vincere benchmark assoluti, deve battere il prezzo delle istanze GPU equivalenti — e AWS controlla entrambi i lati di quel confronto.
Attorno c'è lo stack Neuron, il compilatore e le librerie che traducono modelli PyTorch e JAX verso l'hardware; e ci sono cluster di dimensioni molto grandi costruiti espressamente per singoli clienti di frontiera, il più noto dei quali è l'infrastruttura dedicata alla collaborazione con Anthropic. Sul piano industriale, il progetto fisico dei chip coinvolge partner esterni specializzati in ASIC, e la produzione passa da TSMC.
La svolta AI
Il calcolo di Amazon è semplice: in un mercato dove il fornitore dominante mantiene margini lordi molto elevati, ogni carico spostato su silicio proprio libera valore. Non serve che Trainium sia migliore di una GPU di punta: basta che sia sufficientemente buono per una fetta dei carichi, e che la sua esistenza renda negoziabile il prezzo di tutto il resto.
Il secondo effetto è la disponibilità: avere una linea propria significa non dipendere interamente dalle liste d'attesa altrui in un momento in cui la capacità è la vera valuta del settore.
Dove può rompersi
Il punto debole è sempre lo stesso: il software. Portare un carico su Neuron richiede lavoro, e la maggior parte dei team preferisce pagare di più piuttosto che spendere settimane a far girare il proprio codice. Fuori dai clienti molto grandi, l'adozione resta lenta.
C'è poi un tema di posizionamento: AWS deve vendere Trainium senza irritare NVIDIA, da cui continua a comprare in quantità enormi, e senza confondere i clienti che vogliono solo GPU standard. E resta il vincolo comune a tutti — capacità avanzata, packaging e HBM — che nessuna integrazione verticale può aggirare.