In Breve
- Qual è la posizione di LinkedIn sugli investimenti in GPU per il prossimo anno fiscale?
- LinkedIn non prevede di aumentare significativamente la spesa per hardware AI, mantenendo l'investimento in GPU sostanzialmente invariato.
- Come ha migliorato LinkedIn l'efficienza delle sue GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti grazie a miglioramenti nell'utilizzo e nella gestione dei carichi di lavoro.
- Qual è la strategia di LinkedIn rispetto all'espansione infrastrutturale di Microsoft?
- LinkedIn adotta un approccio diverso rispetto a Microsoft, puntando su data center propri piuttosto che su una rapida espansione.
LinkedIn ha comunicato che nel prossimo anno fiscale non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale. L’investimento in GPU rimarrà sostanzialmente invariato, con l’obiettivo di mantenere l’impronta di calcolo e storage pressoché costante. La società ha riferito di aver raddoppiato l’efficienza delle GPU esistenti in un periodo di sei mesi, grazie a miglioramenti nell’utilizzo delle risorse e nella gestione dei carichi di lavoro.
Erran Berger, CTO dell’ingegneria, ha spiegato che l’intento è quello di mantenere un footprint di calcolo stabile, pur introducendo funzionalità più avanzate dal punto di vista computazionale. Questo approccio si discosta da quello di Microsoft, che controlla LinkedIn dal 2016 e ha recentemente registrato una spesa in conto capitale di 41 miliardi di dollari, con l’aggiunta di 31 nuovi data center nell’ultimo trimestre.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Attualmente, la società si sta concentrando su data center propri situati in Oregon, Texas e Virginia. Avere il controllo completo dell’intero stack infrastrutturale consente a LinkedIn di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere un anno senza incrementare storage e capacità di calcolo è un risultato significativo, frutto di un lavoro considerevole. I miglioramenti ottenuti sono il risultato di un approccio cumulativo, che include un migliore utilizzo delle GPU, una riallocazione dei carichi e la distillazione di modelli più grandi in versioni più piccole.
Questa strategia è motivata anche da considerazioni economiche: il costo per singola query stava aumentando, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza che LinkedIn ha giudicato insostenibile. Sebbene la società non affermi di aver risolto definitivamente il problema, la scelta di mantenere stabile l’investimento in hardware rappresenta un’alternativa alla crescente domanda di risorse hardware, la cui sostenibilità dipenderà dalla capacità di mantenere l’efficienza nel tempo.
