賢明なCIO：第2話 – 「液体冷却：いつ、なぜ、どれを選ぶべきか？」

ザック・スミス：2030年より前にコンピュータを市場に投入することを検討しているなら、おそらく、液体冷却について理解し、それが自社のポートフォリオの中でどこに、どのように適合するかを検討すべきでしょう。 自社のデータセンターでそれをサポートできるか？ そこでの制約や選択肢は何か？ なぜなら、2028年か2029年になると、気がつけばそれがすでに現実になっているだろうと思うからです。

ブラッド・ブシック：現在お聴きいただいているのは、パーク・プレイス・テクノロジーズがお届けする『The Savvy CIO: Modernize Wisely』です。 司会のブラッド・ブシックです。この番組では、予算の逼迫、AIの導入、セキュリティ、そしてすべてを台無しにすることなく事業を継続させる「術」、さらに、日々これらの課題に取り組んでいる人々についてお話ししていきます。

過去 30 年間、データセンターのマナーにおける第一のルールは実に単純で、「ハードウェアに液体をかけない」という一点に尽きました。そしてこの 30 年間、そのルールは実際に非常にうまく機能してきました。 空冷は規模を拡大し、ラックは管理可能な範囲にとどまり、何か問題が発生しても、誰もゴム長靴を履く必要はありませんでした。しかし今、AIという小さな存在が現れました。 まるで一夜にして、1 つのラック内の電源ユニットが倉庫全体の機能停止を引き起こすような状況になっています。空気では十分な速さで冷却できず、熱管理を制御することはほぼ不可能です。 そのため、業界は今、その「第一のルール」を裏切っています。実際には、チップのすぐ隣に液体を配置しているのです。新しい技術にありがちなことですが、これを行う「唯一の正しい方法」など存在しません。 しかし、液浸冷却、ダイレクト・トゥ・チップ冷却、リアドア冷却を採用するにせよ、あるいは安全策として従来のエアクーリングに固執するにせよ、どの選択肢にも、それぞれ独自のトレードオフ、頭痛の種、そして新たな疑問が伴います。 そして率直に言えば、これは今後 5 年間の問題ではなく、今まさに直面している問題なのです。

ですから、どのようなビジネスであれ、どのような業界であれ、どのような分野であれ、次のプロジェクトや導入が何であれ、今すぐこのことについて考え始め、液体冷却が実際に何であり、何でないかを理解し、 そして、他者に決定を委ねる前に、いかにして最善の判断を下せるかを理解しておく必要があります。 ザック・スミス氏は、この話題に取り組むのにまさにうってつけの人物です。彼は、ソフトウェアの野心が物理的なインフラと真っ向から衝突した際に何が起こるかという分野の最前線で、そのキャリアを積んできました。 彼は、プラグイン式の液体冷却をオープンスタンダードとして先駆的に導入し、それが単なるトレンドの追従ではなく、現実的で、熱く、かつコストのかかる問題を解決することであるということを熟知しています。 彼は、技術と音楽の両分野における豊富な経歴を積み重ね、現在のDatumのCEO兼共同創業者という地位にたどり着きました。ザック、The Savvy CIOへようこそ。

ザック・スミス：ブラッド、招待してくれてありがとう。

ブラッド・ブシック：お会いできて光栄です。お時間を割いていただき、ありがとうございます。さて、あなたは紆余曲折を経て、水冷のエキスパートになられたわけですね。 キャリアにおいてこの地点にたどり着くまでの経緯や、どのようにして今の立場に至ったのか、そのストーリーを聞かせていただけますか？

ザック・スミス：ええ。 1990年代、私は他の人たちと同じように、データセンターのクラウドコンピューティングについて学校に通って学位を取得したわけではありません。率直に言って、私は80年代に育った他の子供たちと同じように、ビデオゲームが大好きでした。 ゲームの腕はそれほど良くなかったのですが、とても上手な友達が何人かいたので、私はいつもハードウェア担当となり、PC を改造したり、オーバークロックができるかどうかを確かめたりといったことをしていました。 それから数年が経ち、私はニューヨーク市の音楽学校に進学することになりました。 そして、17 歳で学費を稼ぐために、副業として PC の修理をするようになったのです。つまり、私のコンピュータに関するトレーニングといえば、それくらいでした。

しかし、私が卒業して間もなく、2001年のことですが、 ドットコム・ブームが全盛期を迎えていた頃、私は大学を卒業し、クラシック・コントラバスの演奏の学位を取得して、ミュージシャン向けのウェブホスティングを行う自分のビジネスを立ち上げることにしました。 彼らをインターネット上に登場させるつもりでした。当時、地元のデータセンターに行けば、 そこには、ダイヤルアップやDSLのプロバイダがたくさんあり、彼らはラックを2、3台か、それくらいのものを所有していた。そこで、マシンを借りて、1Uのコロケーションや、何らかの共有サーバーを利用する方法を見つけ出した。 そして、気がつくと、私はLinuxサーバーをホストしており、コンピュータやLinuxについて私よりもはるかに詳しい友人と提携することになり、私たちはLinuxベースのクラウドコンピューティング企業の先駆けの一つを築き上げました。

そして、その道のりの途中で、ある意味でデータセンターの世界に足を踏み入れざるを得なかったのです。 最初のことを覚えています。私は、ロウアー・マンハッタンのブロードウェイ25番地にある「Telehouse」という場所のすぐ近くに座って、当時まだ登場したばかりのAMD Opteronチップのラックへの設置作業を始めていました。 2000年代初頭にその現場にいた人ならご存じでしょうが、当時は64ビットを導入し、より多くのメモリを搭載でき、しかもかなり発熱も激しかったため、このチップはサーバー用チップ界の「ポルシェ911」のような存在でした。 それが、私がデータセンターの過熱問題に初めて直面したきっかけでした。当時、データセンターのスペースはラック単位で購入するもので、消費電力や冷却能力についてはまったく考慮されていなかったからです。 ただラックを入手して、そこにできる限り詰め込むだけでした。そして、私たちは本当に詰め込みました。Opteron を搭載した HP 製 DL140 サーバーを 42 台ほど設置したと思いますが、そのせいで施設は溶けそうになりました。

ブラッド・ブシック：それはすごいですね。

ザック・スミス：そして、それが私にとって冷却技術との初めての出会いでした。

ブラッド・ブシック：それはすごいですね。まず第一に、あなたとほぼ同時期にデビューしたなんて、なんて素晴らしい経歴なんでしょう。 ナタリー、ちょっと昔を振り返らせてほしいんだけど、マイク・タイソンの『パンチアウト』のチートコード「007-373-5963」で鍛え上げた僕の超絶スキルについて。この番号を入力すると、マイク・タイソンに直接つながるんだ。

ザック・スミス：もちろん。

ブラッド・ブシック：でも、つまり、あなたはクラシック音楽の訓練を受けたミュージシャンですよね。 つまり、なんて素晴らしく、美しい精神なんだ、と。その精神こそが、おそらく、今日あなたが取り組んでいる多くの仕事を可能にしているのだろう。その分野は、問題が発生するまでは、多くの人々がその価値を認識もせず、気にも留めていないような分野だ。 そして、突然、「ザック、どうすればいいの？」という状況になるのです。 さて、あなたの経歴について少しお聞きしましたので、リスナーの皆さんのために、ここで背景を説明しておきましょう。なぜ今、誰もが水冷について話題にしているのか、あるいは話題にするべきなのか？

ザック・スミス：私たちが今持っているのは、実に大規模に拡張されたコンピューティングの世界であり、率直に言って、ほとんどの人にとってはそれがただ単にうまく機能してきた。それは実に素晴らしいことだが、その一方で、多くの人々にとってはその実態が抽象化されてしまっていたということでもある。 私たちには非常に優れたシステムインテグレーターがおり、 素晴らしいデータセンターもあり、18ヶ月ごとにコンピューティング能力が倍増するというムーアの法則に基づく変化のペースも続いてきました。しかし、ここ5年から7年の間に、物理的な限界に本当に達してしまいました。 現在、チップは 3 ナノメートル、つまり人間の髪の毛の数分の 1 程度の大きさで製造されていますが、その結果、チップにより多くの電力を供給しなければならなくなり、さらに 1 つのチップ上に、より多くのチップを搭載することになりました。 そこで、チプレット設計や、単に回路を増やすという手法が採用されました。 当初は、より多くのトランジスタを使用できるよう物理的な改良が行われていました。その後、それらを積み重ねて層を増やすという手法が採用されました。こうして、私たちはコンピューティングのこの種の進化を、ひたすら拡大し続けてきたのです。

そして、GPUが登場しました。これは基本的にベクトル・マルチレーン処理であり、1枚のカードに数千個のチップが搭載されているため、その性能は桁違いのものとなりました。 かつてはビデオゲームを実行するための小さなデバイスに過ぎなかったものが、今ではプロセッサやメモリがぎっしり詰め込まれています。 そのため、メモリの高密度化と高速化が必要になったため、これらのメモリチップにより多くの電力を供給することになりました。そして、その流れはネットワークカードにも波及しました。その結果、当社の物理演算のあらゆる部分が、ますます電力を消費するようになったのです。 そして、AI 関連のアプリケーションがこれらの新しいアクセラレータを最大限に活用するにつれて、私たちは、いわゆる「ジェンセンの法則」と呼ばれる段階へと移行しました。それは、「手持ちの電力で何ができるか」というものです。 というのも、それが現時点での制限要因となっているからです。では、1ワットあたりどれだけの知能、あるいはどれだけの価値を生み出すことができるのでしょうか？

そして、その実現には、主にトランジスタの数を大幅に増やし、電力供給を強化することで取り組んでいます。 また、30 年前の設計を基に構築されているデータセンターの世界において、建物は 20 年から 30 年も持ちこたえるように設計されていますが、コンピュータは 1 年から 2 年というサイクルで飛躍的な変化を遂げています。 これらは単なるミスマッチであり、だからこそ、一般的に「冷却」、 「熱除去」と呼ぶべきものですが、データセンターにおいて大きな課題となっています。データセンターは、そこに導入しようとしている現在のマシンに対応できる設備が整っていないからです。

ブラッド・ブシック：ザック、つまり、今日の有能なCIOが備えておくべきスキルの一つは、その分野に詳しくないかもしれない取締役たちに対して、極めて複雑な概念や業務内容を分かりやすく説明できる能力であると同時に、 、同時にエンジニアやパートナーとも対等に話し合える能力です。ですから、LLMモデルによって生まれたスキルのいくつかは本当に気に入っています。その一つがELI5です。 「5歳の子供に説明するように」という意味です。ユーザーにわかりやすく説明するとしたら、液体冷却とは一体何であり、液体冷却ではないものは何なのでしょうか？

ザック・スミス：以前、地元の公立学校でインターネットの仕組みについて授業をしていたのですが、子供たちは最初、ちょっと戸惑っていました。彼らは、インターネットといえばWi-Fiのことだと思い込んでいて、インターネット全体が基本的に無線だと思っていたからです。 飛行機には必ずしも Wi-Fi が備わっているわけではないので、子供たちはそのことを理解し、その謎を解き明かしました。 しかし、冷却やデータセンターの問題について言えば、皆さんはノートパソコンや MacBook を使ったことがあると思いますが、それらは熱対策がかなり優れていますが、それでも時々熱くなることがあります。 映画を見たり、いろいろなことをしたりしていると、熱くなってきます。

物理学には、何かを利用すると必ず別の作用が生じるという問題があります。私の拙い理解では、電子を利用すると熱が発生するということなのです。 そして、まさにそれがデータセンターで私たちが直面している問題なのです。コンピュータには膨大な電力が供給されており、それらはすべて熱を発生させることになるのです。 通常、私たちは「空冷」と呼ばれるプロセスを採用しており、ファンを回して冷たい空気を送り込み、熱い空気を外部に排出しようとします。 しかし、率直に言って、空気は熱交換の媒体としては非常に不向きです。 そこで、非常に多くの熱が発生しているため、その熱をどのように回収すべきか検討する必要がありました。その答えは、自動車のラジエーターとまったく同じものです。

そのため、基本的には、さまざまな場所にラジエーターや熱交換器を設置し始めなければならなくなりました。 これを行うには、さまざまな方法があります。建物の屋上にラジエーターを設置して、空調でこれを解決することもできます。 しかし、それをワークロードにどんどん近づけていくことも可能です。つまり、私が考えているのは、この熱交換器を IT スタックのさまざまな部分に配置していくというものです。

ブラッド・ブシック：では、その考え方を踏まえて、あらゆる種類の水冷システムはすべて同等の性能を持つのでしょうか、それともトレードオフがあるのでしょうか？

ザック・スミス：そうですね。トレードオフはたくさんあると思いますし、これこそが、現代のCIOやインフラ利用者にとって、今まさに直面している課題なのではないでしょうか。なぜなら、選択すべき事項は山ほどある一方で、完璧な選択肢など存在しないからです。 ですから、何よりもまず、CIOの大半は混合環境に対処していると思います。 彼らには、10 億ドルを投じて、あらゆるものを最新世代のものに構築し、2 年後にはそれをまた一から作り直すような、真っ新な部屋があるわけではないのです。 おそらく、彼らは、さまざまな世代の機器、予算の制約、既存の施設やリース契約など、考慮したり、改修したりしなければならない多くの課題に直面しており、 あるいは、制約を抱えている共同設置パートナーとの調整も必要になるかもしれません。

先ほど、データセンターに水を持ち込まないという、古くからの問題について触れられましたね。つまり、今でも多くのコロケーション施設では、「どうやって水を持ち込むか」という点を、まだ真剣に検討できていないのです。 また、液体冷却に対応している、あるいはその導入に前向きである施設であっても、さまざまな種類の液体冷却に対応していない場合があります。 また、これは規制や地域にも影響を及ぼします。なぜなら、流体、つまり液体といえば水を思い浮かべますが、必ずしもそうとは限らないからです。 エアコンをご存じの方ならお分かりでしょうが、かつては CFC が使用されていました。CFC は非常に効率的でしたが、環境に悪影響を及ぼしました。 その後、特定の地域では使用が禁止され、ラジエーターと同様に、さまざまな種類の冷媒が使用されるようになりました。

これは、データセンターで私たちが直面している問題と同じです。つまり、これらは水を使用しているのでしょうか？もしそうなら、どれくらいの水を使用しているのでしょうか？ それらは閉ループ式で、同じ水を繰り返し使用できるのでしょうか、それとも閉ループ式ではなく、常に水を蒸発させなければならないのでしょうか？ 実際には水不足に陥っている可能性もあり、それはデータセンターでは非常に一般的な問題です。 それとも、工業用冷却ループで使用されるグリコールのような別の種類の化学物質、あるいはその他の種類の冷却剤を使用しているのでしょうか？ つまり、 選択肢はたくさんあると思います。ですから、パートナーを持つこと、あるいは自社の具体的な状況や達成しようとしている目標、そして自社の環境を評価できることが非常に重要だと思います。

ブラッド・ブシック：これは、CIOが下す可能性のある、あるいは場合によっては自分でも気づいていないかもしれない、さまざまな選択肢をうまく要約したものです。

ザック・スミス：あらゆる問題。

ブラッド・ブシック：うん。

ザック・スミス：あらゆる課題。

ブラッド・ブシック：そうですね。それはとてつもなく複雑ですね。つまり、CIOとして、実際にどのようなタイプの液体冷却が必要なのか、あるいは自社にとって何が適切なのかを、どうやって判断すればいいのでしょうか？ また、どの道が最も理にかなっているかを判断する際、どのようなビジネス上のトレードオフを考慮することになるのでしょうか？

ザック・スミス：私は以前、大手データセンター運営企業でしばらく働いていました。そこはマルチテナント方式を採用していたため、数千社にも及ぶさまざまな顧客に対応しており、顧客ごとにニーズや設計が異なっていました。 まず最初に検討すべきことは、自社のワークロードと、達成しようとしていることを理解することだと思います。 なぜなら、ベンダーから特定の要件が求められる AI ファクトリーにとって理想的なシナリオは、汎用 IT や近代化のワークロードとはかなり異なる可能性があるからです。 したがって、ハードウェアの観点から、どのようなワークロードと技術スタックを実装するかを検討せずに、この問題の解決に着手することはできないと思います。

そして、次に私が注目するのは、施設そのものです。新しい施設を探している場合や、自ら建設する場合であれば、いくつかの選択肢があり、市場に対してもう少し自分の意見を主張することもできるでしょう。 しかし、既存の施設を運営している場合、どんなに興味深いアイデアを思いついたとしても、やはりデータセンターのパートナーと話し合う必要があります。そして、私が最初に行うステップの一つは、次のように尋ねることです。 「ねえ、現在、どのようなオプションに対応していますか？」と尋ねるでしょう。ビルディング・ループを提供しているか、CDU（冷却ユニット）をラックやケージ内に持ち込むことを許可しているか、といった点を確認するのです。 これらは私が最初に尋ねる質問です。なぜなら、それによって、「リアドア型を検討すべきか？」「CDUを備えたチップ隣接型を検討すべきか？」「完全密閉型や液浸型を検討すべきか？」といった選択肢を絞り込む助けになるからです。 最終的にはそこに落ち着くでしょう。また、液浸方式を検討する前に、私が必ず尋ねておきたい「秘訣」は、単に「フロア・ローディング」についてです。

ブラッド・ブシック：わかりました。

ザック・スミス：退屈な質問に聞こえるのは分かってるけど、「ねえ、これやっていい？」って聞いてくる人が結構いるんだよね。 すると、私たちは「いいえ、実はそれは日本での話で、1平方メートルあたりの床荷重がそれほど耐えられないんです」と答えるのです。 ですから、設計や調達に多額の費用をかけたにもかかわらず、施設がそれを支えきれないという状況に陥らないようにしてください。

ブラッド・ブシック：それは本当に素晴らしいですね。ところで、今私たち全員が耳にしているこの「確信に満ちた声」は、実は、データセンターに最後に足を踏み入れたのが「一度もなかった」という理由で、まさに道を外れてしまったCIOたちの声なんです。 ですから、この指摘は素晴らしいと思います。「ねえ、ここでベンダーパートナーに『これについて考えたことはある？』と尋ねてみませんか？」と。医療の世界では、これはまるで担当医のところへ行って、「ねえ、 この治療計画やケアパスについて聞いたんですが、どう思いますか？」と尋ねるようなものです。そして、実際に、あなたを導いてくれるはずのパートナーにそのことを打ち明けるのです。ですから、私はこの指摘が大好きです。

それでは、もう少し深く掘り下げてみましょう。私たちがこれまでずっと自分に言い聞かせてきた「液体冷却はハイパースケーラーやビットコインマイナーだけのもの」という考えは、実は誤りだったのではないでしょうか。 この点について、業界や分野を問わず、誰もが自社の事業運営能力として液体冷却を取り入れるべきだとおっしゃっているのでしょうか、それとも現時点では特定のニッチ分野に限られるものなのでしょうか？

ザック・スミス：そうですね。これはちょっと興味深い話なのですが、世界のプロセッサやシステムという観点から業界の動向を見ると、世界のコンピュータの60％か70％は、最終的にはハイパースケーラーの手に渡っているのではないかと推測します。 ですから、Amazon や Microsoft と同じ規模を想定して設計しているかどうかに関わらず、実際のところ、サプライチェーンは需要量の多い場所へと向かっているのです。

ブラッド・ブシック：うん。

ザック・スミス：つまり、ハイパースケーラー各社は水冷設計や高密度アーキテクチャへと移行しつつあり、それゆえ、あなた方もその方向へと進むことになるでしょう。

ブラッド・ブシック：うん。

ザック・スミス：皆さんがまったく同じように感じているわけではないかもしれませんが、この傾向に逆らうことはできないし、そもそも逆らいたいとも思わないでしょう。なぜなら、ほとんどの場合、サプライチェーンの「スイートスポット」でドラフトを行いたいと思うからです。 もちろん例外もあります。ですから、空冷式の選択肢は今後も常に存在し、それはかなり長い間続くと私は見ていますが、最終的には、空冷向けに構築された最適化されたソリューションが登場するのではないかと予想しています。 また、液体冷却は、すべての人というわけではないにせよ、ある程度はほとんどの人の環境の一部になっていくと思います。 そして、それは、率直に言えば、サプライチェーンが大手バイヤーを牽引して市場をその方向へと導いた結果、私たち全員がコア数の多いサーバーに移行したのと同じような状況になるでしょう。

ブラッド・ブシック：つまり、液体冷却については明らかにさまざまな意見があるようです。ここでは、パーク・プレイス・テクノロジーズの最高技術責任者（CTO）であるクリス・カレロ氏が、データセンターが液体冷却を導入する際に直面する課題について語っています。

クリス・カレロ：その課題の一つがガバナンスです。液体冷却の分野では、そのガバナンスの多くがまだ確立されていません。標準化もほとんど進んでいないのが実情です。 OEM ごとに製品もコネクタも異なり、相互運用できないさまざまなシステムが存在しています。しかし、その標準化は間違いなく進められる必要があります。

従来の空冷と水冷の間には多くの違いがあります。空冷データセンターは30年にわたり、3台の10kWキャビネットを維持しようと試みてきました。 現在では、50、150kW、200kW のキャビネットが話題になっています。さらに、Nvidia が言及しているような、0.5 メガワット、1 メガワットのラックも、近い将来登場することが予想されます。 既存のデータセンターは、こうした用途に対応するよう設計されていません。新規建設や新規設計といった「グリーンフィールド」の分野では、 では、液体冷却のためのさまざまな設備の導入が始まりつつありますが、既存施設（ブラウンフィールド）は遅れをとっており、こうしたデータセンターを構築するための必要な要素が揃っていないことが、現在の状況における課題となっています。

ブラッド・ブシック： さて、ザック、もしこれがいつかこの分野に携わる私たち全員にとっての「絶対的な指針」となるのであれば、 それが今であれ、3年後であれ、CIOたちが自社の変革においてこの動きが実際に現れ始めるまでの期間を、あなたはどのように見通していますか？　3年後でしょうか？　2030年でしょうか？　それとも来月でしょうか？

ザック・スミス：そうですね。おそらく、ほとんどのCIOは、データセンターのハードウェア更新サイクルを5年から7年という期間に固定しなくなっているのではないでしょうか。それよりも少し短いサイクルになっているかもしれません――

ブラッド・ブシック：うん。

ザック・スミス：…技術の変化もいくつかあります。 しかし、3 年というのは長い期間です。ですから、2030 年までにコンピュータを市場に投入することを検討しているなら、おそらく、液体冷却について理解し、それが自社のポートフォリオの中でどこに、どのように適合するかを検討すべきだと思います。 自社のデータセンターでそれをサポートできるか？　どのように実現すればよいか？　そこにはどのような制約や選択肢があるのか？　なぜなら、2028年や2029年になると、気がつけばその技術がすでに普及していることに気づくことになるだろうからです。 ですから、これを無視してはいけません。準備を万全に整えておくべきです。まずは、パートナーと協力して、試用版や何らかの実験システムから始めて、その仕組みを理解してみてはいかがでしょうか。

そして、運用面でもその仕組みを把握し始めてください。なぜなら、液体や高密度の物質を導入すると、運用面で多くの変化が生じるからです……単なる液体というだけではありません。 膨大なパワー、あるいはシステムさえも手に入れることになるのです。 たとえば、AI インフラストラクチャに投資する場合、新しい Vera Rubins や Grace Hopper を検討することになるかもしれません。これらのサーバーは、1 台あたり数十万ドルもします。

ブラッド・ブシック：うん。 うん。

ザック・スミス：それに、そこに入ってすぐに問題を解決できるわけでもない。ITインフラの相当な部分が機能しなくなってしまう可能性があるからだ――

ブラッド・ブシック：その通りです。

ザック・スミス：…液体冷却ループに問題があったのに、それを監視していなかったせいで、30万ドルのシステムが壊れてしまい、今となっては保証期間も切れてしまって、がっかりしているんだ。

ブラッド・ブシック：その通りです。

ザック・スミス：たとえ、AIであれ高性能処理であれ、こうした要素を少しでも取り入れるつもりなら、教育プログラムの導入や試行的な取り組みを始めることを検討し始める必要があります。

ブラッド・ブシック：ここでの「教育的な視点」が本当に気に入っています。つまり、私たち二人が共に仕事をしてきたITプロフェッショナルの世代全体が、キャリアのすべてを空冷アーキテクチャを中心に築いてきた人たちで、私たちもファンがあることに慣れているんです。

ザック・スミス：うん。

ブラッド・ブシック：あるいは、ダウンタイムの間、スタッフはヘッドセットを装着し、データセンターから電話をかけて復旧を試みていましたが、ファンの音が非常に大きかったため、ヘッドセットを装着せざるを得なかったのです。

ザック・スミス：すごくうるさい。

ブラッド・ブシック：ここで話を聞いている同僚たちがこの変化の過程を乗り越えられるよう手助けする必要があるなら、液体冷却の導入に関してあなたが耳にした「教訓となる事例」について少し話していただけませんか。つまり、見た目は本当に素晴らしいのですが。 私の知る限り、CIOたちは皆、エグゼクティブ・ブリーフィング・センターを訪れたり、トレードショーに行ったりして、パートナーたちと話をしたりしています。 ベンダー側から見ると、それは素晴らしいものに見えますが、あなたは、運用上の頭痛の種について少し触れていましたね。 その機能を試験導入したい場合、どのような質問をすべきか、またどのような点を考慮すべきかについて、具体的な指針を教えていただけますか？

ザック・スミス：そうですね、私たちは長い間、私が「至福の無自覚」あるいは「ハードウェア・パートナーとデータセンター・パートナーの間の分岐」と呼ぶような状況の恩恵を受けてきたと思います。 そのおかげで、私たちは 欲しいものを 何でも 購入し、 概して 好きな場所に 設置することができたのです。

ブラッド・ブシック：うん。

ザック・スミス：そうですね。パワーホイップがいくつか増えたせいで、多少コストがかかっているのかもしれません。でも、そんな時代は終わりました。ハードウェアを設計・購入するにあたって、データセンター側と話し合わないなんてことはあり得ないでしょう――

ブラッド・ブシック：その通りです。

ザック・スミス：…あるいは、それに伴う施設パートナーも。 そして、それは単に「機能するか」というだけでなく、適切な接続環境、可用性、規制当局の承認など、実際に運用上懸念される点がいくつかあり、それらを明らかにしておく必要があると思います。 第一に、可観測性です。 この追加された機械的インフラを観察・監視するためのシステムツールは備わっていますか？ それは CDU かもしれませんし、ポンプかもしれませんし、各サーバーのスループットや温度かもしれません。 つまり、メトリクスについてですが、私がこれまで協力してきたAIパートナー数社から聞いた話では、テレメトリデータを取得する際、その値が極端な数値になることがあるそうです。

ブラッド・ブシック：うん。

ザック・スミス：… 液体冷却インフラからの電力消費量は、サーバーインフラからの電力消費量よりも、ある程度は多いのですが――

ブラッド・ブシック：うん。

ザック・スミス：…　というのも、基本的には機械的なプラントを稼働させているわけだし、どこかに誰かがいるわけだから。

ブラッド・ブシック：うん。

ザック・スミス：そうですね、その点については、ソフトウェアやIT管理に関するツールセットを見直し、それが十分なのか、それとも関連する運用ツールにさらなる投資が必要なのかを検討することが重要だと思います。

そして、2つ目は、私が「午前2時の問題」と呼んでいるものです。 この「午前 2 時の問題」とは、超クールなサーバーが本番環境のワークロードを実行していて、すべてが順調に進んでいるにもかかわらず、何らかの理由で何かが故障してしまうというものです。例えば、ハードドライブが故障したとしましょう。 そのハードドライブを交換しに行かなければなりません。通常なら、サポートチケットを少し提出すれば、データセンターのパートナーや現地の技術チームが対応し、ドライブを交換してくれるでしょう。

ブラッド・ブシック：そうですね。

ザック・スミス：でも、液体パイプがたくさんあるのに、その開け方が分からなくてラックから引き出せないとしたらどうする？　これを抜いたらどうなるの？

ブラッド・ブシック：そうですね。

ザック・スミス：以前はただデータが下がるだけだったんだけど、今は変な冷却液が入ってしまって、それで俺が死ぬか、それとも……

ブラッド・ブシック：うん。

ザック・スミス：…データセンターを台無しにする？　その件については触れないでおくよ。それで、もうひとつ、本当に話し合う必要があると思うのは、運用開始後の業務について、どうやって進めていくか、私たちには分かっているのか？ そして、現地のパートナー――それは単に私たちが依頼するベンダーかもしれないし、リモートハンズチームかもしれないし、あるいは自社チームかもしれない――は、適切なトレーニングを受けているのでしょうか？ なぜなら、彼らは「これには触れないでください。どれが赤でどれが青か分かりません」などと言うかもしれないからです。

ブラッド・ブシック：100％。うん。

ザック・スミス：「あれ、俺が引くの？」

ブラッド・ブシック：うん。

ザック・スミス：それが、まさに午前2時の問題なんだ。

ブラッド・ブシック：そうですね、今日のテーマが「クールであること」についてだという点は、私にもよく分かっています。そして、リスナーの皆さんなら誰もが同意してくれると思いますが、今日はこの業界で最もクールな人物の一人をゲストにお迎えすることができました。 ザックさん、『The Savvy CIO』にご出演いただき、本当にありがとうございます。お時間を割いていただき、感謝しています。

ザック・スミス：こちらこそ、光栄です。

ブラッド・ブシック：この極めて多様性に富んだ分野について考えてみると、もはや物理的な制約が問題ではないことは明らかであり、データセンターが処理できる能力を急速に上回ってしまっていると思います。 したがって、今日の現代的な CIO は、AI ワークロードが通常の冷却システムで実際に処理できる能力をはるかに超えているという事実について考え始めなければなりません。そうすることで、ベンダーとの非常に興味深い対話が始まるでしょう。 ベンダーにどのような適切な質問をすべきか、また、ベンダーがまだ考えていないかもしれない新たな運用要件とは何でしょうか？ 最新の AI インフラストラクチャには、これまでとは異なる規模と水準の電力および冷却が必要です。 このエピソードを聞くまでは、尋ねる必要さえあるとは気づかなかったような疑問について、一緒に検討してくれる「思考のパートナー」を持つことが重要です。

今日はここまでです。お聴きいただき、誠にありがとうございました。エピソードを見逃さないよう、ぜひフォローをお願いします。こちらは、Park Place Technologiesがお届けする『The Savvy CIO』でした。 Park Place について詳しく知りたい方は、www.parkplacetechnologies.com をご覧ください。それでは、ゲストの方から最後のメッセージをお届けします。 さて、この番組は『The Savvy CIO』というタイトルです。ザックさん、これまでのキャリアの中で、あなたが下した最も賢明な選択は何ですか？

ザック・スミス：おそらく、私がこれまでにした中で最も賢明な選択は、出会った人全員に、どんなに馬鹿げた質問でも遠慮なく投げかけたことでした。これは、私たちの業界が持つ「超能力」の一つだと思います。 世の中には親切な人がたくさんいて、誰もが喜んで情報を共有してくれます。そのおかげで、私は何度も助けられてきました。その場では「間抜け」な存在であっても、ただ「もう一つだけ」質問をするだけでいいのです。

ブラッド・ブシック：それは本当に素晴らしい指摘ですね。必ずしも答えを持っている人である必要はありません。実際、必要なのは「わからない」と言える勇気を持つ人であることなんです。 本当にありがとうございます。司会のブラッド・ブシックです。いつものように、ITは単に「テーブルの一角」にあるべきものではありません。ITこそが「テーブルそのもの」なのです。

25年の経験を持つベテランのクラウド開発者です。Linuxホスティングの黎明期（Voxel）でキャリアをスタートさせた後、ベアメタル自動化のスタートアップ（Packet）を立ち上げ、その後Equinixでデジタルインフラストラクチャサービスの責任者を務めました。現在は、今後1,000のクラウドを支えるべく、Datumの構築に取り組んでいます。