LinkedIn: Stabilità negli Investimenti in GPU per il Prossimo Anno Fiscale

LinkedIn ha comunicato che per il prossimo anno fiscale non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale, mantenendo sostanzialmente invariato l’investimento in GPU. La società ha raddoppiato l’efficienza delle GPU esistenti in un periodo di sei mesi, grazie a miglioramenti nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. Questo margine operativo sarà utilizzato per sviluppare nuove funzionalità piuttosto che per l’acquisto di nuovo hardware.

Erran Berger, CTO dell’ingegneria, ha sottolineato l’importanza di mantenere stabile l’impronta di calcolo, mentre si introducono funzionalità più esigenti dal punto di vista computazionale. Questa strategia si colloca in un contesto in cui LinkedIn, controllata da Microsoft dal 2016, adotta un approccio differente rispetto all’espansione infrastrutturale del colosso tecnologico. Infatti, Microsoft ha riportato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, aggiungendo 31 data center in quel periodo e 88 nell’anno.

In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. La società ha quindi deciso di investire in data center propri situati in Oregon, Texas e Virginia. Avere il controllo completo dell’intero stack tecnologico è considerato un fattore chiave per monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.

Raghu Hiremagalur, CTO per l’infrastruttura, ha dichiarato che mantenere invariati storage e compute per un anno è «non una piccola impresa» e ha richiesto un impegno significativo. I miglioramenti ottenuti sono frutto di un approccio cumulativo, che include un utilizzo più efficiente delle GPU, la riallocazione dei carichi di lavoro, la distillazione di modelli più complessi in versioni più leggere e una riprogettazione della divisione del lavoro tra training, inference e storage.

Questa decisione è anche motivata da considerazioni economiche: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza ritenuta insostenibile. Sebbene LinkedIn non affermi di aver risolto definitivamente il problema, la scelta di mantenere stabile l’infrastruttura rappresenta un’alternativa alla crescita proporzionale dell’hardware, la cui efficacia dipenderà dalla capacità del programma di efficienza di mantenersi nel tempo.