Prepararsi ai vincoli infrastrutturali, dalla carenza di memoria ai limiti di alimentazione

La crescita dell'intelligenza artificiale e i limiti dell'offerta fisica stanno costringendo i CIO a prolungare il ciclo di vita dell'hardware e a passare da una pianificazione finanziaria a una pianificazione della resilienza fisica a lungo termine.

Storicamente, la pianificazione delle infrastrutture seguiva uno schema prevedibile. I CIO dovevano conciliare bilanci, cicli di rinnovo e approvazioni degli appalti e, quando la domanda registrava un picco, la soluzione era semplice: trovare i fondi e potenziare la capacità. L’unico vero vincolo era il budget.

Oggi, i vincoli maggiori non risiedono nei fogli di calcolo, ma affondano le loro radici nella realtà fisica. La memoria ad alta larghezza di banda scarseggia. È sempre più difficile procurarsi i componenti chiave per i server. La disponibilità di energia elettrica si sta riducendo e la capacità di raffreddamento sta diventando un fattore seriamente limitante. In molti casi, la domanda non è più “possiamo permettercelo?”, ma “riusciamo a procurarcelo?”.

L'impennata dei carichi di lavoro legati all'intelligenza artificiale e l'espansione inarrestabile dei data center hyperscale hanno accelerato questa transizione. Le catene di approvvigionamento, che un tempo riuscivano a soddisfare agevolmente la domanda delle aziende, sono ora messe a dura prova, poiché gli hyperscaler assorbono GPU, memoria e ingenti quantità di energia. Quello che un tempo era un ecosistema stabile e prevedibile è diventato un terreno difficile.

Per i CIO, ciò sta imponendo un serio ripensamento. Le strategie di approvvigionamento non possono più dare per scontata la disponibilità. I cicli di rinnovamento vengono riconsiderati. Vengono messi in discussione persino i presupposti di lunga data su dove debba essere collocata l’infrastruttura. Forse l’aspetto più critico è che il vincolo non è più solo finanziario. Sempre più spesso, le organizzazioni con budget approvati si ritrovano comunque ad attendere, a volte per mesi in più del previsto, l’infrastruttura di cui hanno bisogno per andare avanti.

In questo nuovo contesto, pianificare non significa solo spendere con oculatezza, ma anche garantirsi l’accesso alle risorse in un mondo in cui l’offerta è incerta.

Il nuovo collo di bottiglia infrastrutturale

Nell’ultimo anno, gran parte del dibattito si è concentrato sulla carenza di GPU causata dal forte aumento della domanda nel settore dell’intelligenza artificiale. Ma la pressione non si limita più agli acceleratori; si sta estendendo a quasi tutti i principali componenti infrastrutturali. La memoria ad alta larghezza di banda, i moduli DIMM, i sistemi di archiviazione, gli alimentatori e persino i componenti delle schede madri sono tutti sempre più soggetti a vincoli di allocazione. Ciò non sta creando uno squilibrio temporaneo, ma sta provocando un cambiamento strutturale.

In passato, i produttori di semiconduttori distribuivano la produzione su un’ampia gamma di mercati, dai dispositivi di consumo ai sistemi aziendali e ai computer portatili. L’intelligenza artificiale ha stravolto questo modello. La capacità produttiva si sta orientando verso implementazioni su scala iper-grande e basate sull’intelligenza artificiale a un ritmo senza precedenti, costringendo gli acquirenti aziendali a contendersi una disponibilità di offerta sempre più ridotta. Per i CIO, le conseguenze stanno diventando difficili da ignorare.

Molte organizzazioni stanno ora assistendo a un aumento dei costi dei server ben superiore alle previsioni iniziali. Sebbene i prezzi di listino degli OEM siano aumentati di circa il 15-20%, i forti rincari della memoria e di altri componenti fondamentali, che in alcuni casi superano il 50%, stanno facendo lievitare in modo significativo i costi totali dei sistemi.

I tempi di consegna, che un tempo si protraevano per poche settimane, ora si misurano in mesi e, in alcuni casi, sfiorano l’anno. Anche il processo di approvvigionamento stesso è messo a dura prova: secondo quanto riferito, i fornitori mantengono validi i preventivi per appena 72 ore, alle prese con prezzi volatili e disponibilità incerta. Per le imprese abituate a cicli di approvazione interni della durata di diverse settimane, ciò crea un nuovo tipo di attrito operativo.

E lo sconvolgimento non si limita al data center. Poiché la memoria ad alte prestazioni viene privilegiata per i carichi di lavoro legati all’intelligenza artificiale, la pressione sui prezzi sta iniziando a ripercuotersi sui laptop e sui dispositivi endpoint. Alcune organizzazioni stanno riconsiderando tecnologie più datate, come i backup su nastro, per colmare le lacune di capacità in attesa che l’infrastruttura, il cui completamento è in ritardo, diventi operativa. Il risultato è una tensione inaspettata in mercati che, fino a poco tempo fa, erano stabili e prevedibili.

Ciò costringe molti CIO a trovare un equilibrio tra scelte difficili. A causa dei budget fissi, alcune organizzazioni stanno semplicemente acquistando meno del previsto. Altre stanno rinviando del tutto i progetti, in attesa che l’offerta riesca a tenere il passo. Di conseguenza, le strategie relative al ciclo di vita delle infrastrutture stanno cambiando.

I sistemi che un tempo venivano rinnovati ogni tre-cinque anni vengono ora mantenuti in servizio per cinque anni o più; alcune organizzazioni stanno addirittura estendendo il loro ciclo di vita a sei o addirittura sette anni, poiché le pressioni sui costi e i vincoli di approvvigionamento stanno ridefinendo le strategie infrastrutturali. Di conseguenza, i fornitori di servizi di manutenzione di terze parti e i mercati dell’hardware di seconda mano stanno assumendo un ruolo sempre più importante, offrendo un modo per prolungare la vita utile delle risorse esistenti e ridurre al contempo l’esposizione ai ritardi negli approvvigionamenti.

Sotto molti aspetti, gli obiettivi di sostenibilità e le esigenze operative stanno iniziando a convergere. Prolungare il ciclo di vita delle infrastrutture può ridurre i rifiuti elettronici e le spese in conto capitale, ma richiede anche nuovi approcci alla manutenzione, all’affidabilità e alla gestione delle prestazioni. Quella che un tempo era una semplice decisione di aggiornamento è ora una scelta molto più strategica.

Il problema fisico: potenza, raffreddamento e limiti dei data center

L’interruzione della catena di approvvigionamento è solo una parte della sfida. Alla base di essa si cela un vincolo ancora più fondamentale: la fisica.

I moderni sistemi di intelligenza artificiale richiedono una densità di calcolo notevolmente superiore rispetto ai carichi di lavoro aziendali tradizionali. Ciò comporta un corrispondente aumento del consumo energetico e della produzione di calore, modificando radicalmente la progettazione dei moderni data center. Per decenni, molti ambienti aziendali sono stati progettati intorno a rack che consumavano circa 3 kW per armadio. Oggi, i rack da 50 kW stanno diventando sempre più comuni negli ambienti di intelligenza artificiale e di calcolo ad alte prestazioni. Alcune implementazioni di GPU di nuova generazione stanno già raggiungendo i 150 kW per rack. Questo cambiamento cambia tutto.

Le infrastrutture di raffreddamento progettate per gli ambienti aziendali tradizionali spesso non sono in grado di gestire questi carichi termici. Di conseguenza, il raffreddamento a liquido, un tempo considerato una soluzione altamente specializzata, sta rapidamente diventando una necessità per molte implementazioni ad alta densità. Ma il raffreddamento è solo una parte del problema. La questione più importante è la disponibilità stessa di energia elettrica.

In molte regioni, gli hyperscaler si sono già assicurati ampie quote della futura capacità energetica per sostenere l’espansione dell’intelligenza artificiale. Ciò sta creando vincoli a valle non solo per i data center aziendali, ma anche per la pianificazione più ampia delle infrastrutture regionali. In alcuni mercati, i fornitori di energia elettrica indicano tempi da cinque a sette anni per i principali potenziamenti della rete elettrica, il che significa che le organizzazioni non possono più dare per scontato di poter semplicemente richiedere megawatt aggiuntivi quando necessario.

Di conseguenza, la strategia di localizzazione sta cambiando. In passato, nella scelta dell’ubicazione dei data center si dava spesso priorità alla connettività, alle condizioni climatiche e ai fattori economici legati al mercato immobiliare, ma ora il fattore decisivo è spesso semplicemente la disponibilità di energia elettrica. Questo cambiamento sta portando a un’espansione delle infrastrutture in regioni che in precedenza non erano considerate importanti poli per i data center.

La disponibilità di acqua sta emergendo come un’altra questione cruciale. Molti sistemi di raffreddamento avanzati richiedono notevoli risorse idriche, creando un conflitto tra la crescita dei data center e le preoccupazioni in materia di sostenibilità. In alcuni casi, le amministrazioni locali stanno già valutando attentamente o limitando l’espansione a causa dell’impatto ambientale. Queste dinamiche stanno mettendo in luce i limiti del modo in cui il settore misura l’efficienza.

L'indice di efficienza energetica (PUE) rimane uno degli indicatori più diffusi per valutare le prestazioni dei data center, ma non sempre riflette l'efficienza complessiva dell'elaborazione. Una struttura può, ad esempio, migliorare il proprio valore PUE operando a temperature più elevate, riducendo però contemporaneamente le prestazioni dei server a causa del throttling termico.

Ciò solleva una questione controversa per i CIO e i responsabili delle infrastrutture: l’efficienza dovrebbe essere misurata esclusivamente in base al consumo energetico o alla quantità di potenza di calcolo produttiva fornita per watt? Con l’aumentare dei carichi di lavoro legati all’intelligenza artificiale, tale distinzione assumerà un’importanza sempre maggiore.

Come i CIO dovrebbero affrontare i vincoli infrastrutturali a lungo termine

Il messaggio più importante per i dirigenti aziendali è che è improbabile che questi vincoli scompaiano nel breve periodo. Le attuali condizioni di mercato indicano che le pressioni sull’offerta, i limiti energetici e la volatilità delle infrastrutture potrebbero protrarsi fino al 2027. Ciò significa che i CIO devono passare da misure di mitigazione a breve termine a una pianificazione della resilienza a lungo termine.

Ciò inizia con una rivalutazione delle ipotesi relative al ciclo di vita delle infrastrutture. L’estensione della durata dell’hardware diventerà sempre più comune, ma per farlo con successo sono necessarie strategie di manutenzione più solide, un monitoraggio migliore e una gestione delle risorse più rigorosa. Le organizzazioni potrebbero inoltre dover diversificare i modelli di approvvigionamento, incorporando sistemi ricondizionati, supporto di terze parti e strategie di implementazione ibride per ridurre la dipendenza da catene di approvvigionamento soggette a limitazioni. Anche la pianificazione della capacità deve diventare più dinamica. I cicli di approvvigionamento tradizionali, basati su programmi di rinnovo prevedibili, potrebbero non essere più sufficienti in un contesto caratterizzato da disponibilità e prezzi fluttuanti.

I CIO dovranno collaborare più strettamente con i team responsabili delle strutture, delle operazioni e della sostenibilità. Le decisioni relative alle infrastrutture non possono più essere prese in modo isolato all’interno dei reparti IT, poiché la disponibilità di energia elettrica, raffreddamento e acqua influisce direttamente sulla fattibilità dell’implementazione. Soprattutto, le organizzazioni potrebbero dover ripensare il significato stesso di “ottimizzazione delle infrastrutture”.

Per anni, il settore ha dato priorità alle massime prestazioni e ai rapidi cicli di aggiornamento. La fase successiva richiederà di trovare un equilibrio tra prestazioni, disponibilità, efficienza e sostenibilità a lungo termine.

L'era dell'intelligenza artificiale sta aprendo straordinarie opportunità di innovazione, ma sta anche mettendo in luce i limiti fisici dell'ecosistema infrastrutturale che la sostiene. Le organizzazioni che sapranno adattarsi con maggiore efficacia saranno quelle che riconosceranno che la resilienza delle infrastrutture non è più solo una questione di approvvigionamento, ma una capacità operativa strategica.