Voorbereiding op infrastructuurbeperkingen, van geheugentekorten tot stroombeperkingen

De groei van AI en de fysieke beperkingen van het aanbod dwingen CIO’s ertoe de levenscyclus van hardware te verlengen en de nadruk te verleggen van financiële planning naar planning gericht op fysieke veerkracht op de lange termijn.

In het verleden verliep de infrastructuurplanning volgens een voorspelbaar stramien. CIO’s zorgden voor een evenwicht tussen begrotingen, vervangingscycli en goedkeuringen voor aankopen, en wanneer de vraag plotseling sterk toenam, was de oplossing eenvoudig: financiering vinden en opschalen. De enige echte beperking was het budget.

Tegenwoordig zitten de grootste beperkingen niet in spreadsheets, maar zijn ze geworteld in de fysieke werkelijkheid. Er is een tekort aan geheugen met hoge bandbreedte. Belangrijke servercomponenten zijn moeilijker te verkrijgen. De beschikbaarheid van stroom neemt af en de koelcapaciteit wordt een ernstige beperkende factor. In veel gevallen is de vraag niet langer „kunnen we het ons veroorloven?“, maar „kunnen we het überhaupt wel krijgen?“

De sterke toename van AI-workloads en de onstuitbare uitbreiding van hyperscale-datacenters hebben deze verschuiving versneld. Toeleveringsketens die vroeger ruimschoots aan de vraag van bedrijven konden voldoen, staan nu onder grote druk nu hyperscalers GPU’s, geheugen en grote hoeveelheden energiecapaciteit opslokken. Wat vroeger een stabiel, voorspelbaar ecosysteem was, is nu een uitdagend terrein geworden.

Voor CIO’s dwingt dit tot een grondige heroverweging. Inkoopstrategieën kunnen niet langer uitgaan van beschikbaarheid. Vernieuwingscycli worden herzien. Zelfs lang gekoesterde aannames over waar infrastructuur moet worden ondergebracht, worden in twijfel getrokken. Misschien wel het belangrijkste is dat de beperking niet langer alleen financieel van aard is. Steeds vaker merken organisaties met goedgekeurde budgetten dat ze toch moeten wachten – soms maanden langer dan gepland – op de infrastructuur die ze nodig hebben om verder te kunnen gaan.

In deze nieuwe situatie gaat het bij planning niet alleen om verstandig besteden. Het gaat erom de toegang veilig te stellen in een wereld waarin het aanbod onzeker is.

Het nieuwe knelpunt in de infrastructuur

Het afgelopen jaar draaide een groot deel van de discussie om het tekort aan GPU’s als gevolg van de sterk stijgende vraag naar AI. Maar de druk beperkt zich niet langer tot versnellers; deze breidt zich uit naar vrijwel alle belangrijke infrastructuurcomponenten. Geheugen met hoge bandbreedte, DIMM’s, opslagsystemen, voedingen en zelfs componenten voor moederborden hebben steeds vaker te maken met leveringsbeperkingen. Dit leidt niet tot een tijdelijke onbalans, maar tot een structurele verschuiving.

Voorheen verdeelden halfgeleiderfabrikanten hun productie over een breed scala aan markten, variërend van consumentenapparaten tot bedrijfssystemen en laptops. AI heeft dat model op zijn kop gezet. De productiecapaciteit wordt in een ongekend tempo ingezet voor hyperscale en AI-gestuurde implementaties, waardoor zakelijke afnemers moeten strijden om een steeds kleiner wordend aanbod. Voor CIO’s worden de gevolgen hiervan steeds moeilijker te negeren.

Veel organisaties zien de serverkosten inmiddels veel sterker stijgen dan aanvankelijk was geraamd. Hoewel de catalogusprijzen van OEM’s met ongeveer 15 tot 20 procent zijn gestegen, zorgen scherpe prijsstijgingen bij geheugen en andere essentiële componenten – die in sommige gevallen zelfs meer dan 50 procent bedragen – ervoor dat de totale systeemkosten aanzienlijk hoger uitvallen.

Levertijden die vroeger enkele weken in beslag namen, worden nu in maanden gemeten en bedragen in sommige gevallen bijna een jaar. Zelfs het inkoopproces zelf staat onder druk: naar verluidt houden leveranciers offertes slechts 72 uur geldig, omdat ze te maken hebben met schommelende prijzen en onzekere beschikbaarheid. Voor ondernemingen die gewend zijn aan interne goedkeuringscycli van meerdere weken, leidt dit tot een nieuw soort operationele wrijving.

En de ontwrichting blijft niet beperkt tot het datacenter. Nu er prioriteit wordt gegeven aan hoogwaardig geheugen voor AI-workloads, begint de prijsdruk door te werken naar laptops en eindapparaten. Sommige organisaties grijpen terug op oudere technologieën, zoals back-ups op tape, om capaciteitstekorten op te vangen in afwachting van vertraagde infrastructuur. Het gevolg is onverwachte druk op markten die tot voor kort stabiel en voorspelbaar waren.

Hierdoor staan veel CIO’s voor lastige afwegingen. Vanwege vaste budgetten kopen sommige organisaties simpelweg minder in dan gepland. Andere stellen projecten helemaal uit, in afwachting van een herstel van het aanbod. Als reactie hierop verschuiven de strategieën voor de levenscyclus van de infrastructuur.

Systemen die vroeger om de drie tot vijf jaar werden vernieuwd, blijven nu vijf jaar of langer in gebruik. Sommige organisaties verlengen de levenscyclus zelfs tot zes of zeven jaar, nu kostendruk en leveringsbeperkingen de infrastructuurstrategieën ingrijpend veranderen. Daardoor spelen externe onderhoudsaanbieders en markten voor tweedehands hardware een steeds grotere rol: zij bieden een manier om de levensduur van bestaande activa te verlengen en tegelijkertijd het risico op vertragingen bij de aanschaf te verminderen.

In veel opzichten beginnen duurzaamheidsdoelstellingen en operationele noodzaak steeds meer op één lijn te komen. Het verlengen van de levensduur van infrastructuur kan elektronisch afval en kapitaaluitgaven verminderen, maar vereist ook nieuwe benaderingen op het gebied van onderhoud, betrouwbaarheid en prestatiebeheer. Wat vroeger een eenvoudige beslissing was om apparatuur te vernieuwen, is nu een veel strategischer afweging geworden.

Het fysische probleem — stroomvoorziening, koeling en de beperkingen van datacenters

Verstoringen in de toeleveringsketen vormen slechts een deel van de uitdaging. Daarachter schuilt een nog fundamentelere beperking: de wetten van de natuurkunde.

Moderne AI-systemen vereisen een aanzienlijk hogere rekenkrachtdichtheid dan traditionele bedrijfsworkloads. Dit leidt tot een overeenkomstige toename van het stroomverbruik en de warmteafgifte, waardoor het ontwerp van het moderne datacenter fundamenteel verandert. Decennialang waren veel bedrijfsomgevingen ontworpen rond racks die ongeveer 3 kW per kast verbruikten. Tegenwoordig komen racks van 50 kW steeds vaker voor in AI- en high-performance computing-omgevingen. Sommige GPU-implementaties van de volgende generatie naderen al de 150 kW per rack. Die verschuiving verandert alles.

Koelinfrastructuur die is ontworpen voor traditionele bedrijfsomgevingen is vaak niet opgewassen tegen deze thermische belastingen. Daardoor wordt vloeistofkoeling, die vroeger als zeer gespecialiseerd werd beschouwd, in snel tempo een noodzaak voor veel installaties met een hoge dichtheid. Maar koeling is slechts één onderdeel van het geheel. Het grotere probleem is de beschikbaarheid van stroom zelf.

In veel regio’s hebben hyperscalers al grote delen van de toekomstige energiecapaciteit veiliggesteld om de uitbreiding van AI te ondersteunen. Dit leidt tot beperkingen verderop in de keten, niet alleen voor datacenters van bedrijven, maar ook voor de bredere regionale infrastructuurplanning. Energiebedrijven in sommige markten geven een doorlooptijd van vijf tot zeven jaar aan voor grote stroomuitbreidingen, wat betekent dat organisaties er niet langer van uit kunnen gaan dat ze eenvoudigweg extra megawatt kunnen aanvragen wanneer dat nodig is.

Als gevolg daarvan verandert de locatiestrategie. Vroeger werd bij de keuze van de locatie voor een datacenter vaak voorrang gegeven aan connectiviteit, klimaat en vastgoedkosten, maar tegenwoordig is de doorslaggevende factor vaak simpelweg of er stroom beschikbaar is. Deze verschuiving zorgt ervoor dat de infrastructuur zich uitbreidt naar regio’s die voorheen niet als belangrijke datacenterhubs werden beschouwd.

De beschikbaarheid van water ontpopt zich als een ander cruciaal vraagstuk. Veel geavanceerde koelsystemen vereisen aanzienlijke hoeveelheden water, wat leidt tot spanningen tussen de groei van datacenters en duurzaamheidsoverwegingen. In sommige gevallen houden lokale overheden de uitbreiding al nauwlettend in de gaten of leggen ze beperkingen op vanwege de gevolgen voor het milieu. Deze ontwikkelingen leggen de beperkingen bloot van de manier waarop de sector efficiëntie meet.

De Power Usage Effectiveness (PUE) blijft een van de meest gebruikte maatstaven voor het beoordelen van de prestaties van datacenters, maar geeft niet altijd een volledig beeld van de algehele rekenkracht. Een datacenter kan zijn PUE-score bijvoorbeeld verbeteren door bij hogere temperaturen te werken, terwijl de serverprestaties tegelijkertijd afnemen als gevolg van thermische beperking.

Dat roept een omstreden vraag op voor CIO’s en infrastructuurverantwoordelijken: moet efficiëntie uitsluitend worden gemeten aan de hand van het stroomverbruik, of aan de hand van de hoeveelheid productieve rekenkracht die per watt wordt geleverd? Naarmate AI-workloads toenemen, zal dat onderscheid steeds belangrijker worden.

Hoe CIO’s moeten omgaan met langdurige infrastructuurbeperkingen

De belangrijkste conclusie voor bedrijfsleiders is dat deze beperkingen waarschijnlijk niet op korte termijn zullen verdwijnen. De huidige marktomstandigheden wijzen erop dat de druk op het aanbod, de beperkingen op het gebied van stroomvoorziening en de instabiliteit van de infrastructuur tot ver in 2027 zouden kunnen aanhouden. Dit betekent dat CIO’s de nadruk moeten verleggen van kortetermijnmaatregelen naar langetermijnplanning gericht op veerkracht.

Dat begint met het herzien van de aannames over de levenscyclus van de infrastructuur. Het verlengen van de levensduur van hardware zal steeds gebruikelijker worden, maar om dit succesvol te doen zijn krachtigere onderhoudsstrategieën, betere monitoring en een strakker assetmanagement nodig. Organisaties zullen wellicht ook hun inkoopmodellen moeten diversifiëren, door gebruik te maken van gereviseerde systemen, ondersteuning door derden en hybride implementatiestrategieën om de afhankelijkheid van krappe toeleveringsketens te verminderen. Ook de capaciteitsplanning moet dynamischer worden. Traditionele inkoopcycli op basis van voorspelbare vervangingsschema’s volstaan wellicht niet langer in een omgeving die wordt gekenmerkt door schommelende beschikbaarheid en prijzen.

CIO’s zullen nauwer moeten samenwerken met de teams die verantwoordelijk zijn voor faciliteiten, bedrijfsvoering en duurzaamheid. Beslissingen over de infrastructuur kunnen niet langer binnen de IT-afdelingen worden genomen, aangezien de beschikbaarheid van stroom, koeling en water rechtstreeks van invloed is op de haalbaarheid van implementaties. Het belangrijkste is dat organisaties wellicht opnieuw moeten nadenken over wat infrastructuuroptimalisatie precies inhoudt.

Jarenlang lag de nadruk in de sector op maximale prestaties en snelle vervangingscycli. In de volgende fase zal een evenwicht moeten worden gevonden tussen prestaties enerzijds en beschikbaarheid, efficiëntie en duurzaamheid op de lange termijn anderzijds.

Het AI-tijdperk biedt buitengewone kansen voor innovatie, maar legt ook de fysieke grenzen bloot van het infrastructuur-ecosysteem dat dit tijdperk ondersteunt. De organisaties die zich het meest effectief aanpassen, zijn de organisaties die inzien dat de veerkracht van de infrastructuur niet langer louter een inkoopkwestie is, maar een strategische operationele capaciteit.