Der versierte CIO: Folge 2 – „Flüssigkeitskühlung: Wann, warum und welche?“

Zac Smith: Wenn Sie vorhaben, Computer noch vor 2030 auf den Markt zu bringen, sollten Sie sich wahrscheinlich damit beschäftigen, die Flüssigkeitskühlung zu verstehen und zu ergründen, wo und wie sie in Ihr Portfolio passt. Können Sie dies in Ihren Rechenzentren unterstützen? Wo liegen dort unsere Grenzen oder Möglichkeiten? Denn ich glaube, Sie werden 2028 oder 2029 aufwachen und feststellen, dass es schon da ist, bevor Sie sich versehen.

Bradd Busick: Sie hören „The Savvy CIO: Modernize Wisely“ von Park Place Technologies. Ich bin Ihr Moderator, Bradd Busick. In dieser Sendung sprechen wir über Budgetdruck, den Einsatz von KI, Sicherheit und die Kunst, den Betrieb am Laufen zu halten, ohne dabei alles zu ruinieren – und über die Menschen, die sich jeden Tag mit diesen Problemen auseinandersetzen.

In den letzten 30 Jahren war die wichtigste Regel im Umgang mit Rechenzentren ganz einfach: Flüssigkeiten von der Hardware fernhalten, Punkt. Und in den letzten drei Jahrzehnten hat diese Regel tatsächlich sehr gut funktioniert. Die Luftkühlung wurde ausgebaut, die Racks blieben überschaubar, und niemand musste Gummistiefel anziehen, wenn etwas schiefging. Aber jetzt haben wir dieses kleine Ding, das man KI nennt. Es kommt einem fast so vor, als könnte die Stromversorgungseinheit in einem einzigen Rack fast über Nacht einen Ausfall im ganzen Lager verursachen. Luft kann die Komponenten nicht schnell genug kühlen, und das Wärmemanagement lässt sich kaum noch kontrollieren. Deshalb verstößt die Branche jetzt gegen die wichtigste Regel. Wir bringen tatsächlich Flüssigkeiten direkt neben den Chip selbst in Kontakt. Wie bei neuen Technologien üblich, gibt es keinen einzig richtigen Weg, dies zu tun. Aber ganz egal, ob man sich für Tauchkühlung, Direktkühlung des Chips, Rückwandkühlung entscheidet oder auf Nummer sicher geht und bei der herkömmlichen Luftkühlung bleibt – jede Option bringt ihre eigenen Kompromisse, Probleme und völlig neue Fragen mit sich. Und um es ganz offen zu sagen: Das ist kein Problem für die nächsten fünf Jahre, sondern ein Problem, das jetzt gelöst werden muss.

Ganz gleich, in welchem Geschäftsfeld Sie tätig sind, in welcher Branche, in welchem Marktsegment, und ganz gleich, wie Ihr nächstes Projekt oder Ihre nächste Implementierung aussieht – Sie müssen jetzt damit beginnen, darüber nachzudenken, und Sie müssen wissen, was Flüssigkeitskühlung eigentlich ist, was sie nicht ist, und wie Sie die klügste Entscheidung treffen können, bevor diese Entscheidung für Sie getroffen wird. Zac Smith ist genau der richtige Mann, um dieses Thema anzugehen. Er hat seine Karriere an der Schnittstelle zwischen Software-Ambitionen und physischer Infrastruktur verbracht. Er hat die steckbare Flüssigkeitskühlung als offenen Standard vorangetrieben und weiß, dass es weniger darum geht, Trends hinterherzulaufen, sondern vielmehr darum, ein reales, heißes und teures Problem zu lösen. Er kann auf einen umfassenden technischen und musikalischen Werdegang zurückblicken, der ihn dorthin geführt hat, wo er heute steht: als CEO und Mitbegründer von Datum. Willkommen bei „The Savvy CIO“, Zac.

Zac Smith: Danke, dass ich hier sein darf, Bradd.

Bradd Busick: Es ist schön, bei euch zu sein. Ich weiß es zu schätzen, dass ihr euch Zeit genommen habt. Also, ich meine, ihr habt einen kurvenreichen Weg hinter euch, der euch dazu geführt hat, Experten für Flüssigkeitskühlung zu werden. Können Sie uns die Geschichte erzählen, die Sie an diesen Punkt Ihrer Karriere geführt hat, und wie Sie zu diesem Moment gekommen sind?

Zac Smith: Ja. Ich glaube, wie die meisten Leute habe ich in den 1990er-Jahren keine Ausbildung im Bereich Cloud-Computing im Rechenzentrum absolviert. Ehrlich gesagt war ich wie jedes andere Kind, das in den 80ern aufgewachsen ist: Ich liebte Videospiele. Ich war nicht besonders gut darin, aber ich hatte einige Freunde, die sehr gut waren, also war ich meistens der Hardware-Typ, der den PC umgebaut hat und herauszufinden versuchte, ob wir ihn übertakten könnten, und solche Dinge. Ein paar Jahre später landete ich schließlich an einer Musikhochschule in New York City. Und als 17-Jähriger, der versuchte, sich das Studium selbst zu finanzieren, reparierte ich schließlich PCs als Nebenjob. Das war also der Umfang meiner Computerausbildung.

Doch kurz nach meinem Abschluss – das war im Jahr 2001 – der Dotcom-Boom in vollem Gange war, und ich stand nach meinem Studium mit einem Abschluss in klassischem Kontrabassspiel vor der Entscheidung, mein eigenes Unternehmen zu gründen, um Webhosting für Musiker anzubieten. Ich wollte sie ins Internet bringen. Und damals ging man einfach so in das lokale Rechenzentrum, es gab viele Einwahl- und DSL-Anbieter, die vielleicht ein paar Racks oder Ähnliches hatten, und man fand einen Weg, sich einen Rechner auszuleihen und etwas 1U-Colo oder einen gemeinsam genutzten Server oder Ähnliches zu bekommen. Und bevor man sich versah, betreiber ich einen Linux-Server und ging schließlich eine Partnerschaft mit einem Freund ein, der sich viel besser mit Computern und Linux auskannte, und wir gründeten eines der ersten Linux-basierten Cloud-Computing-Unternehmen.

Und auf diesem Weg musste man sich gewissermaßen Zugang zum Rechenzentrum verschaffen. Ich erinnere mich noch an den allerersten: Ich saß nicht weit entfernt von einem Ort namens Telehouse, 25 Broadway in Lower Manhattan, wo wir damit begannen, einige der allerersten AMD-Opteron-Chips einzubauen. Und wer die frühen 2000er-Jahre miterlebt hat, weiß, dass das damals der Porsche 911 unter den Server-Chips war, weil sie 64-Bit-Technologie einführten, man mehr Arbeitsspeicher einbauen konnte und sie sich ziemlich heiß liefen. Und das war meine erste Begegnung mit der Überhitzung eines Rechenzentrums, denn damals kaufte man Rechenzentrumsfläche rackweise, und man hatte keine Vorstellung davon, wie viel Strom oder Kühlung dafür nötig war. Man bekam einfach so ein Rack und stopfte alles Mögliche darin, und Mann, haben wir das auch getan. Wir haben, ich glaube, 42 DL140-HP-Server mit Opterons darin untergebracht, und wir haben den Raum fast zum Schmelzen gebracht.

Bradd Busick: Das ist unglaublich.

Zac Smith: Und das war meine erste Begegnung mit der Kühltechnik.

Bradd Busick: Das ist unglaublich. Ich meine, erstens: Was für ein toller Werdegang – du bist ja ungefähr zur gleichen Zeit wie ich groß geworden. Natalie, darf ich kurz auf meine Superfähigkeiten zurückkommen, die ich mir durch Cheat-Codes für „Mike Tyson’s Punch-Out“ angeeignet habe – 007-373-5963, damit gelangst du direkt zu Mike Tyson.

Zac Smith: Natürlich.

Bradd Busick: Aber, ich meine, du bist doch ein klassisch ausgebildeter Musiker. Ich meine, was für ein fantastischer, wunderschöner Geist, der wahrscheinlich einen großen Teil der Arbeit ermöglicht, die du heute in einem Bereich leistest, den so viele Menschen gar nicht zu schätzen wissen oder für den sie sich nicht interessieren, bis er zusammenbricht. Und dann heißt es plötzlich: „Zac, was soll ich tun?“ Also, da wir nun ein wenig über deinen Hintergrund wissen, lass uns unseren Zuhörern den Hintergrund erläutern. Warum reden gerade alle über Flüssigkeitskühlung – oder warum sollten sie gerade jetzt darüber reden?

Zac Smith: Was wir haben, ist eine wirklich skalierte Welt der Datenverarbeitung, die – offen gesagt – für die meisten Menschen einfach funktioniert hat, und das ist ziemlich erstaunlich, aber es hat dazu geführt, dass sie für viele Menschen abstrakt geworden ist. Wir hatten wirklich gute Systemintegratoren, wir hatten großartige Rechenzentren, und die Geschwindigkeit der Veränderungen gemäß dem Moore’schen Gesetz, wonach sich die Rechenleistung alle 18 Monate verdoppelt, hat dazu geführt, dass wir in den letzten fünf bis sieben Jahren wirklich an die Grenzen der Physik gestoßen sind. Wir fertigen Chips mit einer Strukturbreite von drei Nanometern – das entspricht einem Bruchteil eines menschlichen Haares – und das hat zur Folge, dass wir letztendlich mehr Leistung durch die Chips leiten mussten und dann mehr Chips auf dem Chip unterbringen mussten. Also Chiplet-Design und einfach mehr Schaltkreise. Zunächst ging es darum, die physikalischen Eigenschaften zu verbessern, um mehr Transistoren nutzen zu können. Später wurden durch Stapeln weitere Schichten hinzugefügt. So haben wir diese Art der Weiterentwicklung der Rechentechnik einfach immer weiter vorangetrieben.

Und dann kamen die GPUs, bei denen es im Grunde um vektorbasierte Mehrkanalverarbeitung geht – Tausende von Chips auf einer Karte –, was dieses Konzept auf die n-te Potenz hob. Was früher ein kleines Gerät war, das man für sein Videospiel benutzte, ist heute vollgepackt mit Prozessoren und Speicher. Da wir also eine höhere Speicherdichte und höhere Geschwindigkeiten erreichen mussten, haben wir diesen Speicherchips mehr Leistung zugeführt. Und dann ging es weiter zu Netzwerkkarten. Und so ist jeder Teil unserer Physik einfach leistungshungriger geworden. Und da diese Anwendungen rund um die KI die Vorteile dieser neuen Beschleuniger wirklich voll ausgeschöpft haben, sind wir zu dem übergegangen, was man wohl als Jensens Gesetz bezeichnet: Was können wir mit der uns zur Verfügung stehenden Leistung erreichen? Denn das ist derzeit sozusagen der begrenzende Faktor. Wie viel Intelligenz oder wie viel Mehrwert lässt sich also pro Watt erzielen?

Und das erreichen wir in erster Linie durch deutlich mehr Transistoren und Leistung. Und in der Welt der Rechenzentren, wo wir auf 30 Jahre alten Konstruktionen aufbauen: Wie soll ein Gebäude 20 oder 30 Jahre halten, wenn sich die Computer in einem Ein- bis Zweijahreszyklus mit Riesen-Schritten weiterentwickeln? Das ist einfach ein Missverhältnis, und deshalb ist die Kühlung im Allgemeinen – ich würde es eher als Wärmeabfuhr bezeichnen, zu einem großen Problem in Rechenzentren geworden ist, die für die aktuellen Maschinen, die wir dort aufstellen wollen, eigentlich nicht ausgelegt sind.

Bradd Busick: Also, Zac, ich meine, zu den Fähigkeiten, über die ein versierter CIO meiner Meinung nach heutzutage verfügen muss, gehört es, äußerst komplexe Konzepte und Aufgaben den Vorstandsmitgliedern zu vermitteln, die vielleicht keine Ahnung haben, wovon die Rede ist, aber auch in der Lage zu sein, mit Ingenieuren und Partnern zu sprechen. Und deshalb finde ich einige der Fähigkeiten, die mit den LLM-Modellen entstanden sind, großartig – eine davon ist ELI5. Erkläre es mir, als wäre ich fünf. Wenn wir das für unsere Nutzer aufschlüsseln müssten: Was genau ist Flüssigkeitskühlung und was ist keine Flüssigkeitskühlung?

Zac Smith: Ich habe früher an der örtlichen öffentlichen Schule einen Kurs darüber gegeben, wie das Internet funktioniert, und die Kinder waren anfangs etwas verwirrt, weil sie dachten, es ginge nur um WLAN – dass das gesamte Internet im Grunde genommen drahtlos sei. Das haben sie verstanden, weil Flugzeuge nicht immer WLAN haben – das haben sie also herausgefunden. Aber wenn wir uns mal die Probleme mit der Kühlung und den Rechenzentren ansehen: Ihr habt schon einen Laptop benutzt, hattet ein MacBook – das kommt mit der Wärme ziemlich gut klar, aber es wird manchmal doch heiß. Man schaut sich all diese Filme an und macht all die Dinge, und es wird warm.

In der Physik gibt es dieses Problem, dass man, wann immer man etwas nutzt, eine andere Wirkung auslöst, und nach meinem laienhaften Verständnis entsteht Wärme, wenn man ein Elektron nutzt. Und genau damit haben wir es im Rechenzentrum zu tun: Da so viel Strom in diese Computer fließt, erzeugen sie alle Wärme. Normalerweise würden wir ein Verfahren namens Luftkühlung einsetzen, bei dem wir mit einem Lüfter kühlere Luft umherwehen lassen und versuchen, die wärmere Luft nach außen zu drücken. Aber ehrlich gesagt hat Luft nur begrenzte Fähigkeiten – sie ist ein wirklich, wirklich schlechtes Medium für den Wärmeaustausch. Und deshalb mussten wir uns nun die Frage stellen: Da wir so viel Wärme erzeugen, wie können wir diese Wärme abführen? Und die Antwort sieht genau so aus wie dein Kühler, wie in deinem Auto.

Und so mussten wir im Grunde an verschiedenen Stellen Heizkörper und Wärmetauscher installieren. Es gibt eine Reihe verschiedener Möglichkeiten, dies zu realisieren. Man könnte einen Kühler auf dem Dach des Gebäudes verwenden, um das Problem mit der Klimaanlage zu beheben. Man kann ihn aber auch immer näher an die Arbeitslast heranbringen. Und genau das ist meiner Meinung nach der Ansatz: Man nimmt einfach diesen Wärmetauscher und versetzt ihn an verschiedene Stellen im IT-Stack.

Bradd Busick: Wenn man dieses Denkmodell im Hinterkopf behält: Sind alle Arten der Flüssigkeitskühlung gleichwertig, oder gibt es dabei Kompromisse?

Zac Smith: Ja. Ich glaube, es gibt so viele Kompromisse, und das ist wahrscheinlich derzeit die Herausforderung für den modernen CIO oder Infrastrukturnutzer, denn man muss eine ganze Reihe von Entscheidungen treffen, und es gibt keine perfekte Lösung. Zunächst einmal glaube ich, dass die überwiegende Mehrheit der CIOs mit gemischten Umgebungen zu tun hat. Sie verfügen nicht einfach über „Reinräume“, in denen sie eine Milliarde Dollar ausgeben und die neueste Generation aller Komponenten aufbauen können, um das Ganze dann in zwei Jahren erneut aufzubauen. Sie haben es wahrscheinlich mit einer ganzen Reihe verschiedener Generationen von Systemen zu tun, sowie mit Budgetbeschränkungen, bestehenden Einrichtungen und Mietverträgen, über die man nachdenken muss oder die man anpassen muss, oder mit Co-Location-Partnern, die man möglicherweise nutzt und die bestimmte Einschränkungen haben.

Sie haben vorhin das altbekannte Problem angesprochen, dass man kein Wasser ins Rechenzentrum bringen darf. Ich meine, es gibt viele Colocation-Einrichtungen, die sich immer noch wirklich keine Gedanken darüber machen können, wie man das denn hineinbringen soll. Und selbst wenn sie dies tun oder offen für Flüssigkeitskühlung sind, unterstützen sie möglicherweise nicht alle Arten. Und das hat auch regulatorische und regionale Auswirkungen, denn bei manchen Flüssigkeiten – wir sagen „Flüssigkeit“, denken an Wasser –, ist das nicht immer der Fall. Vielleicht kennen Sie das von Ihrer Klimaanlage: Früher haben wir FCKW verwendet, und die waren wirklich effizient, aber sie waren umweltschädlich. Dann wurden sie in bestimmten Bereichen verboten, und wir haben nun andere Arten von Kühlmitteln, die man verwenden kann, ähnlich wie in Ihrem Kühler.

Das ist genau das gleiche Problem, mit dem wir im Rechenzentrum zu tun haben: Sind diese wasserbasiert? Wenn ja, wie viel Wasser verbrauchen sie? Handelt es sich um geschlossene Kreisläufe, in denen das Wasser quasi immer wiederverwendet werden kann, oder sind es offene Kreisläufe, in denen das Wasser ständig verdampfen muss? Vielleicht herrscht ja tatsächlich Wasserknappheit, und das ist in einem Rechenzentrum durchaus üblich. Oder handelt es sich um eine andere Art von Chemikalie, wie beispielsweise ein Glykol, das man in einem industriellen Kühlkreislauf verwenden würde, oder vielleicht um eine andere Art von Kühlmittel? Und deshalb glaube ich, dass es viele Möglichkeiten gibt, und deshalb halte ich es für wirklich wichtig, einen Partner zu haben oder in der Lage zu sein, Ihre spezifische Situation, Ihre Ziele und Ihre Umgebung zu bewerten.

Bradd Busick: Das ist eine großartige Zusammenfassung all der verschiedenen Entscheidungen, die ein CIO treffen könnte – oder in manchen Fällen vielleicht gar nicht bewusst trifft.

Zac Smith: Alle diese Probleme.

Bradd Busick: Ja.

Zac Smith: All die Herausforderungen.

Bradd Busick: Ja. Das ist unglaublich komplex. Ich meine, wie soll man als CIO eigentlich wissen, welche Art von Flüssigkeitskühlung man braucht oder was für einen selbst das Richtige ist? Und welche geschäftlichen Kompromisse gehen Sie ein, wenn Sie versuchen herauszufinden, welcher Weg am sinnvollsten ist?

Zac Smith: Ich habe einige Zeit bei einem großen Rechenzentrumsbetreiber gearbeitet, und da wir ein Multi-Tenant-Modell betrieben, hatten wir es mit einer Vielzahl unterschiedlicher Kunden zu tun – Tausenden von Kunden –, die alle unterschiedliche Anforderungen und Konzepte hatten. Ich denke, das Erste, worauf man sich konzentrieren sollte, ist, seine Workload zu verstehen und zu erkennen, was man erreichen möchte, denn was für Ihre KI-Fabrik – die möglicherweise spezifische Anforderungen Ihres Anbieters hat – ein gutes Szenario sein könnte, unterscheidet sich möglicherweise erheblich von Ihrer allgemeinen IT- oder Modernisierungs-Workload. Ich glaube daher nicht, dass man dieses Problem angehen kann, ohne sich Gedanken darüber zu machen, welche Workloads und welchen Technologie-Stack man aus Hardware-Sicht implementieren wird.

Und als Zweites würde ich mir einfach Ihre Räumlichkeiten ansehen. Wenn Sie auf der Suche nach neuen Räumlichkeiten sind oder selbst etwas bauen, haben Sie vielleicht verschiedene Optionen und können sich auf dem Markt etwas mehr durchsetzen. Aber wenn Sie bereits eine bestehende Einrichtung betreiben, können Sie sich zwar die interessantesten Ideen ausdenken, müssen aber trotzdem mit Ihrem Rechenzentrumspartner sprechen. Und das wäre einer meiner ersten Schritte: zu fragen: „Hey, welche Optionen unterstützt ihr derzeit?“ Ich würde fragen, ob ihr einen Gebäudekreislauf bereitstellt und ob ihr eine CDU, also eine Kühleinheit, in euer Rack oder euren Cage mitbringen dürft. Das wären die ersten Fragen, die ich stellen würde, denn das hilft dir dabei, die verschiedenen Optionen abzuwägen: Soll ich eine Hintertür in Betracht ziehen? Soll ich eine Lösung in Betracht ziehen, bei der die CDU direkt neben den Chips steht? Soll ich eine vollständig geschlossene Lösung oder Immersionskühlung in Betracht ziehen? Das wird letztendlich dort landen. Und die „geheime“ Frage, die ich ebenfalls stellen würde, bevor Sie sich auf das Thema „Immersionskühlung“ einlassen, betrifft einfach die Bodenbelastung.

Bradd Busick: Okay.

Zac Smith: Ich weiß, das klingt nach einer langweiligen Frage, aber es gibt viele Leute, die fragen würden: „Hey, kann ich das machen?“ Und wir sagen dann: „Nein, eigentlich ist das in Japan, und dort kann die Bodenbelastung pro Quadratmeter nicht so hoch sein.“ Bringen Sie sich also nicht in eine Situation, in der Sie vielleicht sehr teure Geräte entworfen und beschafft haben, Ihre Anlage diese aber nicht tragen kann.

Bradd Busick: Das ist wirklich gut. Der Klang der Überzeugung, den wir übrigens alle hören, kommt von all den CIOs, die gerade von der Straße abgekommen sind, weil sie das letzte Mal, als sie in ihrem Rechenzentrum waren, noch nie dort waren. Deshalb finde ich diesen Anstoß toll: „Können wir hier einen Anbieterpartner hinzuziehen, um zu fragen: ‚Haben wir darüber nachgedacht?‘“ Und ich weiß, dass es im Gesundheitswesen so ist, als würde man zu seinem Behandler gehen und sagen: „Hey, ich habe von diesem Behandlungsplan oder diesem Versorgungsweg gehört. Was halten Sie davon?“ Und das tatsächlich mit Ihrem Partner zu besprechen, der Ihnen dabei helfen sollte, den richtigen Weg zu finden. Deshalb finde ich diesen Hinweis großartig.

Lassen Sie uns das Thema vielleicht jetzt noch etwas vertiefen. Ich glaube, die Lüge, die wir uns immer selbst erzählt haben, war, dass Flüssigkeitskühlung nur etwas für Hyperscaler und Bitcoin-Miner sei. Wollten Sie an dieser Stelle sagen, dass jeder – unabhängig von der Branche und unabhängig vom Geschäftsbereich – die Flüssigkeitskühlung als eine Möglichkeit in Betracht ziehen sollte, um seinen Betrieb zu führen, oder ist sie derzeit noch auf bestimmte Nischen beschränkt?

Zac Smith: Ja. Das ist irgendwie interessant, denn wenn man sich die Dynamik der Branche ansieht – insbesondere die weltweit hergestellten Prozessoren und Systeme –, würde ich vermuten, dass 60 % oder 70 % aller Computer weltweit letztendlich bei einem Hyperscaler landen. Und egal, ob man für die gleiche Größenordnung wie Amazon oder Microsoft entwickelt: Tatsache ist, dass sich die Lieferkette dorthin verlagert, wo das Volumen liegt.

Bradd Busick: Ja.

Zac Smith: Und das bedeutet, dass Hyperscaler zunehmend auf flüssigkeitsgekühlte Konzepte und Architekturen mit hoher Dichte setzen – und das bedeutet, dass auch Sie diesen Weg einschlagen werden.

Bradd Busick: Ja.

Zac Smith: Man empfindet das vielleicht nicht ganz so, aber ich glaube nicht, dass man sich dem Trend entziehen kann oder will, denn man möchte in den meisten Fällen im „Sweet Spot“ der Lieferkette auswählen. Es gibt natürlich Ausnahmen. Ich denke also, dass es zwar immer luftgekühlte Optionen geben wird – und ich gehe davon aus, dass das noch eine ganze Weile so bleiben wird –, aber ich vermute, dass wir optimierte Lösungen haben werden, die für die Luftkühlung konzipiert sind, Ich glaube, dass Flüssigkeitskühlung in gewissem Maße Teil der Umgebung der meisten, wenn nicht sogar aller Menschen werden wird. Und das wird genauso ablaufen wie der Übergang zu Servern mit hoher Kernanzahl, denn ehrlich gesagt hat die Lieferkette den Markt mit den großen Abnehmern genau in diese Richtung gelenkt.

Bradd Busick: Es gibt also offensichtlich viele unterschiedliche Ansichten zum Thema Flüssigkeitskühlung. Hier spricht Chris Carrero, Chief Technology Officer bei Park Place Technologies, über einige der Herausforderungen, denen Rechenzentren bei der Einführung der Flüssigkeitskühlung gegenüberstehen.

Chris Carrero: Einer der Punkte ist die Regulierung. Ein großer Teil dieser Regulierung fehlt im Bereich der Flüssigkeitskühlung noch. Es gibt wirklich kaum Standardisierung. Verschiedene OEMs haben ihre eigenen Produkte und eigene Steckverbinder. Es gibt unterschiedliche Systeme, die nicht miteinander kompatibel sind. Aber diese Standardisierung muss auf jeden Fall vorangetrieben werden.

Es gibt zahlreiche Unterschiede zwischen herkömmlicher Luftkühlung und Flüssigkeitskühlung, wobei Rechenzentren mit Luftkühlung bereits seit 30 Jahren versuchen, die drei 10-kW-Schränke zu betreiben. Heute spricht man von Schränken mit 50, 150 kW oder 200 kW. Und in Zukunft stehen Racks mit einem Halb-Megawatt- oder einem-Megawatt-Leistung im Ausblick, wie sie Nvidia unter anderem ankündigt. Diese Rechenzentren sind dafür nicht ausgelegt. Ich würde sagen, im Greenfield-Bereich, also bei Neubauten und neuen Konzepten, dort beginnen man allmählich, die verschiedenen Voraussetzungen für die Flüssigkeitskühlung umzusetzen, während die Bestandsanlagen hinterherhinken und es an den notwendigen Komponenten fehlt, um diese Rechenzentren aufzubauen – das ist sozusagen die Herausforderung, vor der wir derzeit stehen.

Bradd Busick: Und also, Zac, wenn das irgendwann für uns alle in diesem Bereich zur unumstößlichen Wahrheit werden soll, sei es jetzt oder in drei Jahren – wie sieht für dich der Zeitrahmen aus, in dem CIOs tatsächlich erkennen werden, dass sich dies für ihren Wandel konkretisiert? Sind es drei Jahre? Ist es 2030? Ist es schon nächsten Monat?

Zac Smith: Ja. Ich vermute, dass die meisten CIOs in ihren Rechenzentren nicht mehr nach einem fünf- bis siebenjährigen Hardware-Erneuerungszyklus vorgehen. Möglicherweise sind ihre Zeiträume sogar noch etwas kürzer –

Bradd Busick: Ja.

Zac Smith: … angesichts einiger technologischer Veränderungen. Aber drei Jahre sind eine lange Zeit. Und deshalb denke ich, dass man, wenn man plant, Computer noch vor 2030 auf den Markt zu bringen, sich wahrscheinlich mit Flüssigkeitskühlung auseinandersetzen sollte – und damit, wo und wie sie in das eigene Portfolio passt. Können Sie dies in Ihren Rechenzentren unterstützen? Wie würden wir das umsetzen? Welche Einschränkungen oder Möglichkeiten gibt es dabei? Denn ich glaube, Sie werden 2028 oder 2029 aufwachen und feststellen, dass es schon da ist, bevor Sie sich versehen. Also würde ich es nicht ignorieren. Ich würde alles gut vorbereiten. Vielleicht fängt man mit einer Testphase oder einer Art Laborsystem an, um das gemeinsam mit einem Partner zu verstehen.

Und dann müssen Sie sich damit operativ auseinandersetzen, denn es gibt eine Reihe von operativen Veränderungen, die eintreten, wenn Sie Flüssigkeit und diese hohdichten Stoffe einführen … Es geht nicht nur um Flüssigkeit. Man verfügt über eine enorme Rechenleistung, vielleicht ein ganzes System. Wenn Sie beispielsweise in KI-Infrastruktur investieren, könnten Sie sich die neuen Vera-Rubins- oder Ihre Grace-Hopper-Server ansehen. Diese Server kosten einige hunderttausend Dollar pro Stück.

Bradd Busick: Ja. Ja.

Zac Smith: Und man kann nicht einfach dort hineingehen und die Probleme beheben. Es könnte sein, dass ein erheblicher Teil Ihrer IT-Infrastruktur außer Betrieb ist, weil –

Bradd Busick: Das stimmt.

Zac Smith: … du hattest ein Problem mit dem Flüssigkeitskühlkreislauf und hast es nicht überwacht, woraufhin das 300.000-Dollar-System den Geist aufgegeben hat und du nun aus der Garantie herausfällst.

Bradd Busick: Das ist genau richtig.

Zac Smith: Selbst wenn man nur ein bisschen davon haben will – sei es KI oder Hochleistungsrechner –, muss man darüber nachdenken, Aufklärungsarbeit zu leisten und erste Versuche zu starten.

Bradd Busick: Mir gefällt der pädagogische Ansatz hier sehr gut. Ich meine, es gibt eine ganze Generation von IT-Fachleuten, mit denen wir beide zusammengearbeitet haben und deren gesamte Karriere auf luftgekühlten Architekturen basierte – wir sind es gewohnt, Lüfter zu haben.

Zac Smith: Ja.

Bradd Busick: Oder in einer Ausfallphase tragen die Leute Kopfhörer und rufen vom Rechenzentrum aus an, um zu versuchen, das System wieder zum Laufen zu bringen, aber sie mussten die Kopfhörer tragen, weil es wegen der Lüfter so laut war.

Zac Smith: Das ist ja so laut.

Bradd Busick: Wenn wir unseren Kollegen, die hier zuhören, dabei helfen sollen, diese Veränderungskurve zu meistern, erzählen Sie doch bitte ein wenig von einigen dieser warnenden Beispiele, die Sie im Zusammenhang mit der Einführung der Flüssigkeitskühlung gehört haben. Ich meine, es sieht wirklich großartig aus. Ich glaube, alle CIOs, die ich kenne, besuchen Executive-Briefing-Zentren, und wir gehen auf Messen, und ich spreche mit meinen Partnern, und auf der Anbieterseite sieht es fantastisch aus, aber du hast ja schon ein wenig über einige dieser betrieblichen Probleme gesprochen. Gib mir doch ein paar Anhaltspunkte dafür, was man fragen und worüber man nachdenken sollte, wenn man damit beginnen möchte, diese Funktion in einem Pilotprojekt zu testen?

Zac Smith: Nun, ich glaube, wir haben lange Zeit von etwas profitiert, das ich entweder als „selige Unwissenheit“ oder als „Trennung“ zwischen unserem Hardware-Partner und unserem Rechenzentrumspartner bezeichnen würde, wodurch wir sozusagen kaufen konnten, was wir wollten, und es im Allgemeinen dort aufstellen konnten, wo wir wollten.

Bradd Busick: Ja.

Zac Smith: Okay. Vielleicht kostet es ein bisschen mehr, weil wir ein paar mehr Power-Whips haben. Aber diese Zeiten sind vorbei, und man kann keine Hardware entwerfen und kaufen, ohne mit seinem Rechenzentrum zu sprechen –

Bradd Busick: Das stimmt.

Zac Smith: … oder einen Standortpartner dazu. Und ich denke, es geht nicht nur darum, ob es funktionieren kann, ob wir über die richtigen Anschlüsse, die Verfügbarkeit, behördliche Genehmigungen oder was auch immer verfügen – es gibt ein paar echte betriebliche Bedenken, die man meiner Meinung nach irgendwie ansprechen muss. An erster Stelle steht dabei die Beobachtbarkeit. Verfügen Sie über die Systemtools, um diese zusätzliche mechanische Infrastruktur zu beobachten und zu überwachen? Das kann eine CDU sein, das kann eine Pumpe sein, das kann der Durchsatz oder die Temperatur an jedem Server sein. Also die Metriken – und das habe ich von einigen unserer KI-Partner gehört, mit denen ich zusammengearbeitet habe – die können extrem sein, wenn man Telemetriedaten abruft –

Bradd Busick: Ja.

Zac Smith: … mehr aus der Flüssigkeitskühlungsinfrastruktur als aus Ihrer Serverinfrastruktur beziehen, zumindest bis zu einem gewissen Grad—

Bradd Busick: Ja.

Zac Smith: … denn man betreibt im Grunde genommen eine mechanische Anlage, oder irgendjemand ist irgendwo.

Bradd Busick: Ja.

Zac Smith: Und ich denke, das ist ein Bereich, in dem man sich einfach mal seine Software- und IT-Management-Tools ansehen sollte, um zu prüfen, ob diese ausreichen oder ob man weiterhin in die dazugehörigen Betriebswerkzeuge investieren muss.

Und dann gibt es noch das zweite Problem, das ich gerne als „2:00-Uhr-morgens-Problem“ bezeichne. Und das „2:00 Uhr morgens“-Problem ist: Ihr supercooler Server, auf dem die Produktions-Workload läuft, alles läuft reibungslos, und – ich weiß nicht – plötzlich geht etwas kaputt. Nehmen wir einfach mal an, es ist eine Festplatte. Du musst die Festplatte austauschen. Normalerweise erstellst du ein kleines Support-Ticket, dein Rechenzentrumspartner und dein Technikteam vor Ort werden sich darum kümmern, die Festplatte austauschen – gut gemacht.

Bradd Busick: Genau.

Zac Smith: Aber was ist, wenn man eine ganze Reihe von Flüssigkeitsleitungen hat und diese nicht aus dem Gestell herausziehen kann, weil man nicht weiß, wie man die Flüssigkeitsleitung öffnet? Was passiert, wenn ich den Stecker ziehe?

Bradd Busick: Genau.

Zac Smith: Früher sank einfach nur der Wert, aber jetzt bekomme ich irgendein seltsames Kühlmittel und das wird mich umbringen oder es wird –

Bradd Busick: Ja.

Zac Smith: … das Rechenzentrum ruinieren? Darauf werde ich nicht eingehen. Und das ist also der andere Punkt, über den meiner Meinung nach wirklich gesprochen werden muss: Hey, der Betrieb ab dem zweiten Tag – wissen wir, wie wir das angehen werden? Und werden unsere Partner vor Ort – sei es ein Anbieter, den wir beauftragen, ein „Remote-Hands“-Team oder unser eigenes Team – entsprechend geschult sein? Denn sie könnten sagen: „Ich kann das nicht anfassen. Ich weiß nicht, was rot und was blau ist.“

Bradd Busick: 100 %. Ja.

Zac Smith: „Soll ich die da ziehen?“

Bradd Busick: Ja.

Zac Smith: Das ist das Problem um 2:00 Uhr morgens.

Bradd Busick: Nun, mir ist durchaus bewusst, dass es bei unserem heutigen Thema darum geht, die Dinge cool zu halten, und ich denke, alle Zuhörer würden mir zustimmen, dass wir heute einen der coolsten Typen der Branche bei uns zu Gast hatten. Zac, vielen Dank, dass du bei „The Savvy CIO“ zu Gast warst. Wir wissen deine Zeit sehr zu schätzen.

Zac Smith: Es ist mir eine Freude.

Bradd Busick: Wenn wir über diesen unglaublich vielfältigen Bereich nachdenken, wurde meiner Meinung nach sehr deutlich, dass die physikalischen Grenzen nicht mehr das Problem sind und wir schnell die Kapazitäten unserer Rechenzentren übersteigen. Daher muss der moderne CIO heute anfangen, sich mit der Vorstellung auseinanderzusetzen, dass seine KI-Workloads weit über das hinausgehen, was mit herkömmlicher Kühlung tatsächlich bewältigt werden kann – was dann zu wirklich interessanten Gesprächen mit Ihrem Anbieter führt. Wie stellen Sie die richtigen Fragen an Ihren Anbieter, und welche neuen betrieblichen Anforderungen gibt es, an die Ihr Anbieter vielleicht noch gar nicht gedacht hat? Die neue, moderne KI-Infrastruktur erfordert Stromversorgung und Kühlung in einem anderen Maßstab und auf einem anderen Niveau, einen Kompetenzpartner zu haben, der Ihnen dabei helfen kann, einige der Fragen zu klären, von denen Sie bis zum Anhören dieser Folge vielleicht noch nicht wussten, dass Sie sie überhaupt stellen müssen.

Das war’s für heute. Vielen Dank fürs Zuhören. Bitte folgen Sie uns, damit Sie keine Folge verpassen. Das war „The Savvy CIO“, präsentiert von Park Place Technologies. Wenn Sie mehr über Park Place erfahren möchten, besuchen Sie www.parkplacetechnologies.com. Und nun noch ein letztes Wort von unserem Gast. Diese Sendung heißt also „The Savvy CIO“. Zac, was war die klügste Entscheidung, die Sie bisher in Ihrer Karriere getroffen haben?

Zac Smith: Die wohl klügste Entscheidung, die ich je getroffen habe, war, absolut jedem, dem ich begegnet bin, dumme Fragen zu stellen. Ich glaube, das ist eine der Superkräfte unserer Branche. Es gibt viele hilfsbereite Menschen, jeder teilt sein Wissen gerne, und das hat mir schon so oft geholfen – einfach der Dumme im Raum zu sein und noch eine Frage mehr zu stellen.

Bradd Busick: Das ist ein wirklich toller Gedanke. Man muss nicht immer derjenige sein, der die Antwort weiß. Man muss eigentlich nur derjenige sein, der den Mut hat, zu sagen: „Ich weiß es nicht.“ Vielen Dank dafür. Ich bin Ihr Moderator, Bradd Busick, und wie immer gilt: IT sollte nicht nur am Tisch sitzen. IT ist der Tisch.

Erfahrener Cloud-Entwickler mit 25 Jahren Berufserfahrung. Nachdem ich meine Karriere in den Anfängen des Linux-Hostings (Voxel) begonnen hatte, gründete ich ein Start-up für Bare-Metal-Automatisierung (Packet) und leitete anschließend den Bereich digitale Infrastrukturdienste bei Equinix. Derzeit arbeite ich am Aufbau von Datum, um die nächsten 1.000 Clouds voranzutreiben.