Se préparer aux contraintes liées à l'infrastructure, du manque de mémoire aux limites d'alimentation

La croissance de l'IA et les contraintes liées à l'offre matérielle obligent les DSI à prolonger le cycle de vie du matériel et à passer d'une planification axée sur les aspects financiers à une planification axée sur la résilience matérielle à long terme.

Historiquement, la planification des infrastructures suivait un schéma prévisible. Les DSI jonglaient entre les budgets, les cycles de renouvellement et les autorisations d’achat, et lorsque la demande augmentait brusquement, la solution était simple : trouver les fonds nécessaires et augmenter la capacité. La seule véritable contrainte était le budget.

Aujourd’hui, les principales contraintes ne se trouvent pas dans les feuilles de calcul ; elles sont ancrées dans la réalité physique. La mémoire à haute bande passante vient à manquer. Il est plus difficile de sécuriser les composants clés des serveurs. L’approvisionnement en énergie se raréfie et la capacité de refroidissement devient un facteur sérieusement limitant. Dans de nombreux cas, la question n’est plus « en avons-nous les moyens ? », mais « pouvons-nous simplement nous en procurer ? »

L'explosion des charges de travail liées à l'IA et l'expansion incessante des centres de données hyperscale ont accéléré cette évolution. Les chaînes d'approvisionnement, qui répondaient autrefois sans difficulté à la demande des entreprises, sont désormais mises à rude épreuve, les hyperscalers accaparant les GPU, la mémoire et d'énormes quantités d'énergie. Ce qui était autrefois un écosystème stable et prévisible est devenu un terrain difficile.

Pour les DSI, cela impose une profonde remise en question. Les stratégies d’approvisionnement ne peuvent plus partir du principe que les ressources sont disponibles. Les cycles de renouvellement sont en train d’être réexaminés. Même les hypothèses de longue date concernant l’emplacement de l’infrastructure sont remises en cause. Mais surtout, la contrainte n’est plus uniquement financière. De plus en plus, les organisations disposant de budgets approuvés se retrouvent à devoir attendre, parfois plusieurs mois de plus que prévu, l’infrastructure dont elles ont besoin pour aller de l’avant.

Dans ce nouveau contexte, la planification ne consiste pas seulement à dépenser à bon escient. Il s'agit de garantir l'accès aux ressources dans un monde où l'approvisionnement est incertain.

Le nouveau goulet d'étranglement en matière d'infrastructures

Au cours de l’année écoulée, les discussions ont principalement porté sur la pénurie de GPU, provoquée par l’explosion de la demande en matière d’IA. Mais la pression ne se limite plus aux accélérateurs ; elle s’étend désormais à la quasi-totalité des principaux composants d’infrastructure. La mémoire à haute bande passante, les barrettes DIMM, les systèmes de stockage, les blocs d’alimentation et même les composants des cartes mères sont tous de plus en plus soumis à des contraintes d’approvisionnement. Il ne s’agit pas là d’un déséquilibre temporaire, mais bien d’un changement structurel.

Auparavant, les fabricants de semi-conducteurs répartissaient leur production entre un large éventail de marchés, allant des appareils grand public aux systèmes d'entreprise en passant par les ordinateurs portables. L'IA a bouleversé ce modèle. Les capacités de production sont réorientées vers les déploiements à très grande échelle et pilotés par l'IA à un rythme sans précédent, ce qui oblige les acheteurs professionnels à se disputer un stock disponible de plus en plus restreint. Pour les DSI, les conséquences deviennent difficiles à ignorer.

De nombreuses entreprises constatent aujourd'hui que les coûts liés aux serveurs dépassent largement leurs prévisions initiales. Alors que les prix catalogue des fabricants ont augmenté d'environ 15 % à 20 %, les fortes hausses des prix de la mémoire et d'autres composants essentiels, dépassant parfois 50 %, font grimper considérablement le coût total des systèmes.

Les délais de livraison, qui s'étendaient autrefois sur quelques semaines, se mesurent désormais en mois et, dans certains cas, avoisinent même l'année. Le processus d'approvisionnement lui-même est mis à rude épreuve : selon certaines informations, les fournisseurs ne maintiendraient leurs devis que pendant 72 heures, confrontés qu'ils sont à la volatilité des prix et à une disponibilité incertaine. Pour les entreprises habituées à des cycles d'approbation internes s'étalant sur plusieurs semaines, cela engendre un nouveau type de friction opérationnelle.

Et ces bouleversements ne se limitent pas au centre de données. La mémoire haute performance étant désormais prioritaire pour les charges de travail liées à l’IA, la pression sur les prix commence à se répercuter sur les ordinateurs portables et les terminaux. Certaines entreprises se tournent à nouveau vers des technologies plus anciennes, telles que les sauvegardes sur bande, afin de combler les lacunes en matière de capacité en attendant la mise en place d’une infrastructure dont le déploiement a pris du retard. Il en résulte des tensions inattendues sur des marchés qui étaient, jusqu’à récemment, stables et prévisibles.

De nombreux DSI se retrouvent ainsi confrontés à des choix difficiles. Face à des budgets fixes, certaines entreprises se contentent d'acheter moins que prévu. D'autres reportent purement et simplement leurs projets, en attendant que l'offre rattrape la demande. En conséquence, les stratégies relatives au cycle de vie des infrastructures évoluent.

Les systèmes qui étaient autrefois renouvelés tous les trois à cinq ans sont désormais maintenus en service pendant cinq ans, voire plus ; certaines entreprises prolongent même leur cycle de vie jusqu'à six, voire sept ans, alors que les contraintes budgétaires et les difficultés d'approvisionnement redéfinissent les stratégies en matière d'infrastructure. En conséquence, les prestataires de maintenance tiers et les marchés de matériel d'occasion jouent un rôle de plus en plus important, en offrant un moyen de prolonger la durée de vie des actifs existants tout en réduisant l'exposition aux retards d'approvisionnement.

À bien des égards, les objectifs de développement durable et les impératifs opérationnels commencent à converger. Prolonger la durée de vie des infrastructures permet de réduire les déchets électroniques et les dépenses d'investissement, mais cela nécessite également de nouvelles approches en matière de maintenance, de fiabilité et de gestion des performances. Ce qui était autrefois une simple décision de renouvellement est désormais un calcul bien plus stratégique.

Le problème physique : puissance, refroidissement et limites des centres de données

Les perturbations de la chaîne d'approvisionnement ne constituent qu'une partie du problème. Derrière celles-ci se cache une contrainte encore plus fondamentale : la physique.

Les systèmes d’IA modernes nécessitent une densité de calcul nettement supérieure à celle des charges de travail d’entreprise traditionnelles. Cela entraîne une augmentation correspondante de la consommation électrique et du dégagement thermique, ce qui modifie fondamentalement la conception des centres de données modernes. Pendant des décennies, de nombreux environnements d’entreprise ont été conçus autour de baies consommant environ 3 kW chacune. Aujourd’hui, les baies de 50 kW sont de plus en plus courantes dans les environnements d’IA et de calcul haute performance. Certains déploiements de GPU de nouvelle génération atteignent déjà près de 150 kW par baie. Cette évolution change la donne.

Les infrastructures de refroidissement conçues pour les environnements d'entreprise traditionnels sont souvent incapables de gérer ces charges thermiques. Par conséquent, le refroidissement par liquide, autrefois considéré comme une technologie hautement spécialisée, devient rapidement une nécessité pour de nombreux déploiements à haute densité. Mais le refroidissement n'est qu'un aspect du problème. La question plus large concerne la disponibilité de l'alimentation électrique elle-même.

Dans de nombreuses régions, les hyperscalers se sont déjà assurés une grande partie des capacités énergétiques futures afin de soutenir l’expansion de l’IA. Cela engendre des contraintes en aval, non seulement pour les centres de données d’entreprise, mais aussi pour la planification plus large des infrastructures régionales. Sur certains marchés, les fournisseurs d’énergie prévoient des délais de cinq à sept ans pour les mises à niveau majeures du réseau électrique, ce qui signifie que les organisations ne peuvent plus partir du principe qu’elles pourront simplement demander des mégawatts supplémentaires en cas de besoin.

En conséquence, la stratégie d'implantation évolue. Auparavant, le choix de l'emplacement d'un centre de données privilégiait souvent la connectivité, les conditions climatiques et les aspects économiques liés à l'immobilier, mais aujourd'hui, le facteur déterminant est souvent simplement la disponibilité de l'électricité. Cette évolution entraîne une expansion des infrastructures vers des régions qui n'étaient auparavant pas considérées comme des pôles majeurs pour les centres de données.

La disponibilité de l'eau apparaît comme un autre enjeu crucial. De nombreux systèmes de refroidissement de pointe nécessitent d'importantes ressources en eau, ce qui crée une tension entre la croissance des centres de données et les préoccupations en matière de développement durable. Dans certains cas, les collectivités locales examinent déjà de près ces projets d'expansion, voire les limitent, en raison de leur impact environnemental. Cette dynamique met en évidence les limites des méthodes utilisées par le secteur pour mesurer l'efficacité énergétique.

L'indice d'efficacité énergétique (PUE) reste l'un des indicateurs les plus couramment utilisés pour évaluer les performances des centres de données, mais il ne reflète pas toujours l'efficacité globale des ressources de calcul. Une installation peut, par exemple, améliorer son indice PUE en fonctionnant à des températures plus élevées, tout en réduisant simultanément les performances des serveurs en raison d'un ralentissement dû à la chaleur.

Cela soulève une question controversée pour les DSI et les responsables des infrastructures : l'efficacité doit-elle être mesurée uniquement en fonction de la consommation électrique, ou en fonction de la puissance de calcul productive fournie par watt ? À mesure que les charges de travail liées à l'IA prendront de l'ampleur, cette distinction deviendra de plus en plus importante.

Comment les DSI devraient-ils faire face aux contraintes à long terme liées aux infrastructures ?

Le principal enseignement à retenir pour les dirigeants d'entreprise est que ces contraintes ne sont pas près de disparaître. Les conditions actuelles du marché laissent penser que les tensions sur l'offre, les limitations en matière d'énergie et l'instabilité des infrastructures pourraient perdurer jusqu'en 2027. Cela signifie que les DSI doivent passer d'une approche d'atténuation à court terme à une planification de la résilience à long terme.

Cela commence par une réévaluation des hypothèses relatives au cycle de vie des infrastructures. Prolonger la durée de vie du matériel deviendra de plus en plus courant, mais pour y parvenir, il faudra mettre en place des stratégies de maintenance plus solides, une meilleure surveillance et une gestion des actifs plus rigoureuse. Les organisations devront peut-être également diversifier leurs modèles d’approvisionnement, en intégrant des systèmes reconditionnés, une assistance par des tiers et des stratégies de déploiement hybrides afin de réduire leur dépendance vis-à-vis de chaînes d’approvisionnement soumises à des contraintes. La planification des capacités doit également gagner en dynamisme. Les cycles d’approvisionnement traditionnels, basés sur des calendriers de renouvellement prévisibles, pourraient ne plus suffire dans un environnement caractérisé par une disponibilité et des prix fluctuants.

Les DSI devront collaborer plus étroitement avec les équipes chargées des installations, des opérations et du développement durable. Les décisions relatives à l'infrastructure ne peuvent plus être prises en vase clos au sein des services informatiques, alors que l'alimentation électrique, le refroidissement et la disponibilité de l'eau ont une incidence directe sur la faisabilité des déploiements. Surtout, les entreprises devront peut-être repenser la notion même d'optimisation de l'infrastructure.

Pendant des années, le secteur a privilégié la performance maximale et des cycles de renouvellement rapides. La prochaine étape consistera à trouver un équilibre entre la performance, la disponibilité, l'efficacité et la durabilité à long terme.

L'ère de l'IA offre des opportunités extraordinaires en matière d'innovation, mais elle met également en évidence les limites physiques de l'écosystème infrastructurel qui la soutient. Les organisations qui s'adapteront le mieux seront celles qui comprendront que la résilience de l'infrastructure n'est plus seulement une question d'approvisionnement, mais une capacité opérationnelle stratégique.