メモリ不足から電力制限に至るまで、インフラの制約に備える

AIの普及と物理的な供給の制約により、CIOたちはハードウェアのライフサイクルを延長し、財務面での計画から長期的な物理的耐障害性の計画へと転換せざるを得なくなっている。

これまで、インフラ計画は予測可能な流れに沿って進められてきました。CIOたちは予算、更新サイクル、調達承認のバランスを取り、需要が急増した際には、資金を確保して規模を拡大するという単純明快な解決策をとっていました。唯一の真の制約は予算だけでした。

今日、最大の制約はスプレッドシート上の数字にあるのではなく、物理的な現実に根ざしています。高帯域幅メモリは供給不足に陥っています。サーバーの主要コンポーネントの調達が難しくなっています。電力の供給余力は逼迫しており、冷却能力も深刻な制約要因になりつつあります。多くの場合、問題はもはや「費用を捻出できるか」ではなく、「そもそも入手できるか」という点に移っています。

AIワークロードの急増と、ハイパースケールデータセンターの絶え間ない拡大が、この変化を加速させている。かつては企業の需要を余裕を持って満たしていたサプライチェーンも、ハイパースケール企業がGPUやメモリ、そして膨大なエネルギー容量を吸い上げているため、現在は逼迫した状況にある。かつては安定的で予測可能なエコシステムだったものが、今や困難な状況に陥っている。

CIOたちにとって、これは深刻な見直しを迫る事態となっている。調達戦略において、もはや「インフラが利用可能である」という前提は通用しなくなっている。更新サイクルも見直されている。インフラをどこに配置すべきかという、長年にわたって定着していた前提さえも疑問視され始めている。おそらく最も重要な点は、制約がもはや単に財政的なものだけではないということだ。予算が承認されている組織であっても、事業を進めるために必要なインフラの整備を、計画より数ヶ月も遅れて待たされるケースがますます増えている。

こうした新たな環境下において、計画立案とは単に資金を賢く使うことだけではありません。供給が不確実な世界において、確保すべきものを確実に手に入れることが重要なのです。

新たなインフラのボトルネック

この1年間、AI需要の急増によるGPU不足が話題の中心となってきました。しかし、その圧力はもはやアクセラレータだけに留まらず、ほぼすべての主要なインフラコンポーネントに広がっています。高帯域幅メモリ、DIMM、ストレージシステム、電源装置、さらにはマザーボードの部品に至るまで、供給の制約に直面するケースが増えています。これは一時的な不均衡にとどまらず、構造的な変化を引き起こしています。

これまで、半導体メーカーは、民生用デバイスからエンタープライズシステム、ノートPCに至るまで、幅広い市場に生産を分散させてきました。しかし、AIの台頭により、そのモデルは一変しました。生産能力は、かつてないスピードでハイパースケールおよびAI駆動型の導入へとシフトしており、その結果、エンタープライズ企業の購入担当者は、縮小し続ける供給源を巡って競争を余儀なくされています。CIOにとって、その影響はもはや無視できないものになりつつあります。

現在、多くの組織で、サーバーコストが当初の予測をはるかに上回る水準まで上昇しています。OEMの定価は約15％から20％上昇していますが、メモリやその他の重要部品の価格が急騰し、場合によっては50％を超える上昇率となっているため、システム全体のコストが大幅に押し上げられています。

かつては数週間だったリードタイムが、現在では数ヶ月単位となり、場合によっては1年近くかかることもあります。調達プロセス自体も逼迫しており、価格の変動や供給状況の不確実性に直面するサプライヤーは、見積もりの有効期間をわずか72時間に限定しているとの報告もあります。数週間にわたる社内承認サイクルに慣れている企業にとって、これは新たな業務上の摩擦を生み出しています。

そして、この混乱はデータセンターにとどまりません。AIワークロード向けに高性能メモリが優先的に割り当てられるにつれ、価格面での圧力がノートPCやエンドポイントデバイスにも波及し始めています。一部の組織では、導入が遅れているインフラを待つ間、容量不足を補うためにテープバックアップなどの旧来の技術を見直しています。その結果、つい最近まで安定しており予測可能だった市場に、予期せぬ負担がかかっているのです。

この状況により、多くのCIOは難しいトレードオフのバランスをとらざるを得なくなっています。予算が限られているため、計画よりも購入量を減らす組織もあれば、供給が追いつくのを待ってプロジェクトを全面的に延期する組織もあります。こうした状況を受けて、インフラのライフサイクル戦略も変化しつつあります。

かつては3～5年ごとに更新されていたシステムが、現在では5年以上運用され続けており、コスト圧力や供給制約によってインフラ戦略が見直される中、一部の組織ではライフサイクルを6年、あるいは7年まで延長している。その結果、サードパーティの保守プロバイダーや中古ハードウェア市場がより重要な役割を果たすようになっており、調達遅延のリスクを軽減しつつ、既存資産の寿命を延ばす手段を提供している。

多くの点で、持続可能性の目標と業務上の必要性が一致し始めています。インフラのライフサイクルを延長することで、電子廃棄物や設備投資を削減できますが、その一方で、保守、信頼性、およびパフォーマンス管理に対する新たなアプローチも求められます。かつては単純な更新判断だったものが、現在でははるかに戦略的な判断を要する課題となっています。

物理的な課題――電力、冷却、そしてデータセンターの限界

サプライチェーンの混乱は、課題の一部に過ぎません。その根底には、さらに根本的な制約――すなわち物理法則――が横たわっています。

最新のAIシステムは、従来のエンタープライズワークロードに比べて飛躍的に高い演算密度を必要とします。これにより、消費電力と発熱量もそれに応じて増加し、現代のデータセンターの設計は根本的に変化しています。数十年にわたり、多くのエンタープライズ環境は、1キャビネットあたり約3kWを消費するラックを基準に設計されてきました。しかし今日、AIやハイパフォーマンスコンピューティング（HPC）環境では、50kWのラックがますます一般的になりつつあります。一部の次世代GPU導入事例では、すでに1ラックあたり150kWに迫る勢いです。この変化は、あらゆるものを一変させるものです。

従来のエンタープライズ環境向けに設計された冷却インフラでは、こうした熱負荷に対応できないことがよくあります。その結果、かつては極めて特殊なものと見なされていた液体冷却が、多くの高密度導入環境において急速に必須のものとなりつつあります。しかし、冷却は問題の一部に過ぎません。より大きな課題は、電力供給そのものです。

多くの地域において、ハイパースケーラー各社は、AIの拡大を支えるため、将来の電力供給能力の大部分をすでに確保しています。これにより、企業のデータセンターだけでなく、より広範な地域インフラの計画においても、下流側の制約が生じています。一部の市場では、電力事業者が大規模な電力設備のアップグレードに5年から7年の期間を要すると見込んでおり、組織はもはや、必要な時に単に追加のメガワットを要請すればよいという前提で物事を進めることはできなくなっています。

その結果、立地戦略は変化しつつあります。従来、データセンターの立地選定では、接続性、気候、不動産の経済性が優先されることが多かったのですが、現在では、単に電力が確保できるかどうかが決定要因となるケースが増えています。この変化により、これまで主要なデータセンター拠点とは見なされていなかった地域へと、インフラの拡大が進んでいます。

水の確保もまた、重要な課題として浮上しつつある。多くの先進的な冷却システムは多量の水資源を必要とするため、データセンターの拡大と持続可能性への懸念との間に緊張関係が生じている。場合によっては、環境への影響を理由に、地方自治体がすでに拡張計画を精査したり、制限を課したりしている。こうした状況は、業界が効率性を測定する方法における限界を浮き彫りにしている。

電力使用効率（PUE）は、データセンターのパフォーマンスを評価する上で依然として最も広く用いられている指標の一つですが、必ずしも全体的な演算効率を正確に反映しているとは限りません。例えば、施設側では、より高い温度で運用することでPUEスコアを改善できる一方で、熱によるスロットリングによってサーバーのパフォーマンスが低下してしまう場合があります。

これにより、CIOやインフラ担当責任者にとって議論の分かれる問題が浮上する――効率性は、単に消費電力のみに基づいて測定すべきなのか、それとも1ワットあたりの生産的な演算能力に基づいて測定すべきなのか？ AIワークロードが拡大するにつれ、この区別はますます重要になっていくだろう。

CIOは長期的なインフラの制約にどう対応すべきか

企業リーダーにとって最も重要なポイントは、こうした制約がすぐには解消されそうにないということです。現在の市場状況から判断すると、供給面での圧力、電力供給の制約、インフラの不安定さは、2027年まで相当な期間続く可能性があります。つまり、CIOは短期的な対策から、長期的なレジリエンス計画へと軸足を移す必要があるということです。

その第一歩は、インフラのライフサイクルに関する前提を見直すことから始まります。ハードウェアの耐用年数を延長する動きはますます一般的になるでしょうが、これを成功させるには、より強固な保守戦略、より優れた監視体制、そしてより厳格な資産管理が求められます。また、組織は、供給制約のあるサプライチェーンへの依存度を低減するため、再生品システムの導入、サードパーティによるサポート、ハイブリッド展開戦略などを取り入れ、調達モデルを多様化する必要が出てくるかもしれません。さらに、キャパシティプランニングもよりダイナミックなものにしなければなりません。 供給状況や価格が変動しやすい環境下では、予測可能な更新スケジュールに基づく従来の調達サイクルでは、もはや不十分となる可能性があります。

CIOは、施設、運用、サステナビリティの各チームと、これまで以上に緊密に連携していく必要があるでしょう。電力、冷却、水の供給状況が導入の実現可能性に直接影響を及ぼす以上、インフラに関する意思決定をIT部門内だけで行うことはもはやできません。何よりも重要なのは、組織が「インフラの最適化」とは何かを再考する必要があるかもしれないということです。

長年にわたり、この業界では最高のパフォーマンスと迅速な製品更新サイクルが最優先されてきました。次の段階では、パフォーマンスと可用性、効率性、そして長期的な持続可能性とのバランスを図ることが求められるでしょう。

AIの時代は、革新に向けた並外れた機会をもたらしている一方で、それを支えるインフラエコシステムの物理的な限界も露呈させている。最も効果的に適応できる組織とは、インフラのレジリエンスがもはや単なる調達上の問題ではなく、戦略的な運用能力であることを認識している組織である。