O CIO Experiente: Episódio 2 – “Resfriamento líquido: quando, por que e qual?”

Zac Smith: Se você está pensando em lançar computadores no mercado antes de 2030, provavelmente deveria procurar entender o resfriamento líquido e onde e como ele se encaixa no seu portfólio. É possível oferecer suporte a isso em seus data centers? Quais são as limitações ou opções nesse sentido? Porque acho que, quando você perceber, já será 2028 ou 2029; isso vai chegar antes que você perceba.

Bradd Busick: Você está ouvindo o programa “The Savvy CIO: Modernize Wisely”, da Park Place Technologies. Sou o seu apresentador, Bradd Busick. Este é um programa em que falamos sobre pressões orçamentárias, adoção de IA, segurança e a arte de manter as coisas funcionando sem dar tudo errado, além das pessoas que estão lidando com esses problemas todos os dias.

Nos últimos 30 anos, a regra número um do código de conduta em centros de dados tem sido bem simples: manter líquidos longe do hardware, ponto final. E, nas últimas três décadas, essa regra realmente funcionou muito bem. O resfriamento a ar foi dimensionado, os racks permaneceram gerenciáveis e ninguém precisava calçar botas de borracha se algo desse errado. Mas agora temos essa coisinha chamada IA. Parece que, quase da noite para o dia, a unidade de alimentação dentro de um único rack poderia causar um colapso em todo o armazém. O ar não consegue resfriar as coisas com rapidez suficiente, e o gerenciamento térmico é quase impossível de controlar. Então, agora, o setor está traindo a regra número um. Na verdade, estamos colocando líquidos bem ao lado do próprio chip. Como costuma acontecer com novas tecnologias, não existe uma única maneira certa de fazer isso. Mas, quer você opte pelo resfriamento por imersão, pelo resfriamento direto no chip, pelo resfriamento pela porta traseira ou prefira jogar pelo seguro e manter o resfriamento a ar tradicional, cada opção traz suas próprias vantagens e desvantagens, dores de cabeça e novas questões. E, para ser franco, esse não é um problema para os próximos cinco anos, é um problema para agora.

Portanto, seja qual for o seu negócio, seja qual for o seu setor, seja qual for a sua área de atuação, seja qual for o seu próximo projeto ou implantação, você precisa começar a pensar nisso agora e precisa saber o que realmente é o resfriamento líquido, o que ele não é, e como tomar a decisão mais inteligente antes que essa decisão seja tomada por você. Zac Smith é exatamente a pessoa certa para abordar esse assunto. Ele dedicou sua carreira à vanguarda do que acontece quando a ambição do software se choca de frente com a infraestrutura física. Ele foi pioneiro no resfriamento líquido plugável como um padrão aberto e sabe que não se trata tanto de seguir tendências, mas sim de resolver um problema real, urgente e caro. Ele tem todo um currículo em tecnologia e música que o levou aonde está hoje: CEO e cofundador da Datum. Bem-vindo ao The Savvy CIO, Zac.

Zac Smith: Obrigado por me receber, Bradd.

Bradd Busick: É um prazer estar com você. Agradeço por ter reservado um tempo. Então, veja bem, quero dizer, você trilhou esse caminho sinuoso que o levou a se tornar um especialista em resfriamento líquido. Você poderia nos contar a história que permitiu que você chegasse a esse ponto na sua carreira e como você chegou a esse momento?

Zac Smith: É. Acho que, como a maioria das pessoas, não estudei nem me formei em computação em nuvem no data center nos anos 90. Sinceramente, eu era como qualquer outro garoto que cresceu nos anos 80: adorava videogames. Eu não era muito bom nesses jogos, mas tinha alguns amigos que eram muito bons, então eu sempre acabava sendo o cara do hardware, modificando o PC, descobrindo se dava para fazer overclock nele, coisas assim. Alguns anos depois, acabei indo para uma escola de música em Nova York. E, como um garoto de 17 anos tentando pagar meus estudos na faculdade, acabei consertando PCs como meu trabalho extra. E, bem, essa foi toda a minha formação em informática.

Mas, logo depois que me formei, isso foi em 2001, o boom das dot-com estava em pleno andamento, e eu saí da faculdade com um diploma em interpretação de contrabaixo clássico e acabei abrindo meu próprio negócio de hospedagem na web para músicos. Eu ia colocá-los online. E, na época, você simplesmente ia ao centro de dados local, havia muitos provedores de conexão discada e DSL que tinham talvez alguns racks ou coisas do tipo, e você descobria como pegar uma máquina emprestada e conseguir algum espaço de colocation 1U ou algum tipo de serviço compartilhado. E, antes que percebesse, eu já estava hospedando um servidor Linux e acabei fazendo parceria com um amigo que sabia muito mais sobre computadores e Linux, e nós criamos uma das primeiras empresas de computação em nuvem baseadas em Linux.

E, ao longo desse caminho, era preciso, de certa forma, entrar no data center. Lembro-me do primeiro deles: eu estava sentado não muito longe de um lugar chamado Telehouse, na Broadway, 25, em Lower Manhattan, onde começamos a instalar alguns dos primórdios dos chips AMD Opteron. E, se você estava por aí no início dos anos 2000, aquele era o Porsche 911 dos chips de servidor, porque eles introduziram a arquitetura de 64 bits, era possível instalar mais memória e eles tendiam a esquentar bastante. E essa foi minha primeira experiência com superaquecimento em um data center, porque, na época, você comprava espaço no data center por rack, e eles não tinham a menor noção de quanta energia ou refrigeração era necessária. Você simplesmente pegava o rack e enfiava tudo o que podia nele, e, cara, como a gente enchia! Estávamos colocando, acho que eram 42 servidores HP DL140 com processadores Opteron, e derretemos o lugar.

Bradd Busick: Isso é incrível.

Zac Smith: E essa foi minha primeira experiência com refrigeração.

Bradd Busick: Isso é incrível. Quer dizer, primeiro, que trajetória incrível, tendo surgido mais ou menos na mesma época que você. Natalie, posso relembrar minhas superhabilidades, que foram aprimoradas durante os códigos de trapaça do jogo “Punch-Out!!” do Mike Tyson (007-373-5963), que te leva direto para o Mike Tyson?

Zac Smith: Claro.

Bradd Busick: Mas, quer dizer, você é um músico com formação clássica. Quero dizer, que mente incrível e maravilhosa, que provavelmente possibilita grande parte do trabalho que você está fazendo hoje em um espaço que tantas pessoas nem sequer apreciam ou se importam até que ele se rompa. E então, de repente, é tipo: “Zac, o que eu faço?” Então, quer dizer, agora que já sabemos um pouco sobre sua trajetória, vamos contextualizar a situação para nossos ouvintes. Por que todo mundo está falando — ou deveria estar falando — sobre resfriamento líquido neste momento?

Zac Smith: O que temos é um mundo da computação realmente em grande escala que, francamente, para a maioria das pessoas simplesmente tem funcionado, e isso é incrível, mas isso fez com que ele se tornasse algo abstrato para muitas pessoas. Tivemos integradores de sistemas realmente bons, tivemos ótimos centros de dados, e o ritmo de mudança previsto pela Lei de Moore — que prevê a duplicação da capacidade computacional a cada 18 meses —, e, nos últimos cinco a sete anos, realmente atingimos os limites da física. Estamos fabricando chips de três nanômetros, frações de um fio de cabelo humano, e o que isso significou é que acabamos tendo que fornecer mais energia aos chips e, em seguida, colocar mais chips no chip. Então, o projeto de “chiplets” e simplesmente colocar mais circuitos. E, no início, tratava-se de aprimorar a física para usar mais transistores. Depois, passou a ser a adição de mais camadas por meio do empilhamento. Assim, simplesmente continuamos ampliando, ampliando esse tipo de evolução da computação.

E então, surge a GPU, que é basicamente um processamento vetorial em múltiplas pistas, com milhares de chips em uma placa, levando isso a um nível ínfimo. O que costumava ser uma coisinha que você usava para rodar seus videogames agora está repleto de processadores e memória. Então, à medida que precisávamos de memória mais densa e mais rápida, passamos a fornecer mais potência a esses chips de memória. E depois disso, isso se estendeu às placas de rede. E assim, cada parte de nossa física passou a exigir cada vez mais potência. E, como essas aplicações relacionadas à IA realmente tiraram proveito desses novos aceleradores, passamos para o que acho que as pessoas chamam de Lei de Jensen, que é: o que podemos fazer com a quantidade de energia que temos? Porque esse é, de certa forma, o fator limitante no momento. Então, quanta inteligência ou quanto valor você consegue gerar por watt?

E estamos fazendo isso principalmente por meio de muito mais transistores e potência. E, no mundo dos data centers, onde estamos nos baseando em projetos de 30 anos atrás, como fazer com que um prédio dure 20 ou 30 anos, se temos computadores que mudam a cada um ou dois anos, em saltos gigantescos? Isso é simplesmente um descompasso, e é por isso que o resfriamento em geral, acho que poderíamos chamá-lo de extração de calor, se tornou um grande problema nos centros de dados, que realmente não estão equipados para as máquinas atuais que estamos tentando instalar neles.

Bradd Busick: Então, Zac, quer dizer, parte das habilidades que, na minha opinião, um CIO experiente de hoje precisa ter é ser capaz de explicar conceitos e tarefas extremamente complexos aos membros do conselho, que talvez não saibam do que estão falando, mas também ser capaz de conversar com engenheiros e parceiros. E, por isso, adoro algumas das habilidades que surgiram com os modelos LLM, sendo uma delas o ELI5. Explique para mim como se eu tivesse cinco anos. Se tivéssemos que explicar isso aos nossos usuários, o que exatamente é resfriamento líquido e o que não é resfriamento líquido?

Zac Smith: Eu costumava dar uma aula na escola pública local sobre como a internet funciona, e as crianças ficaram meio confusas no começo porque achavam que era só Wi-Fi, que toda a internet era basicamente sem fio. Eles entenderam porque os aviões nem sempre têm Wi-Fi, então conseguiram entender isso. Mas, se formos falar de problemas de refrigeração e de data centers, você já usou seu laptop, já teve seu MacBook; ele é muito bom em lidar com o calor, mas às vezes esquenta mesmo. Você fica assistindo a todos os filmes e fazendo tudo o que quer, e ele esquenta.

Na física, existe esse problema em que, sempre que você usa algo, acaba gerando alguma outra ação, e o que eu entendo, de forma simples, é que, quando você usa um elétron, isso gera calor. E é exatamente isso com o qual estamos lidando no centro de dados: como temos tanta energia entrando nesses computadores, todos eles vão gerar calor. E, normalmente, teríamos um processo chamado resfriamento a ar, no qual usaríamos um ventilador para circular ar mais frio e tentar empurrar o ar mais quente para fora. Mas, francamente, o ar é um meio muito, muito ruim para a troca de calor. E, portanto, agora, tivemos que analisar, já que estamos gerando tanto calor, como podemos capturar esse calor? E a resposta se parece exatamente com o radiador do seu carro.

E, assim, basicamente, começamos a ter que instalar radiadores e trocadores de calor em vários pontos. Existem várias maneiras diferentes de fazer isso. Você poderia usar um radiador no telhado do prédio para resolver isso com o seu ar-condicionado. Mas você pode começar a aproximá-lo cada vez mais da sua carga de trabalho. E é isso que eu acho que deve ser feito: simplesmente pegar esse trocador de calor e movê-lo para diferentes partes da pilha de TI.

Bradd Busick: Então, tendo esse modelo mental em mente, todos os tipos de resfriamento líquido são iguais ou há compromissos a serem feitos?

Zac Smith: Sim. Acho que há muitos compromissos a serem feitos, e esse provavelmente é o desafio para o CIO moderno ou para quem utiliza infraestrutura atualmente, pois há uma série de escolhas a serem feitas e não existe uma opção perfeita. Portanto, antes de tudo, acho que a grande maioria dos CIOs está lidando com ambientes mistos. Eles não têm apenas salas limpas onde podem gastar um bilhão de dólares e implantar a última geração de tudo, para depois, daqui a dois anos, ter que fazer tudo de novo. Provavelmente, eles estão lidando com um monte de gerações diferentes de equipamentos, além de restrições orçamentárias, instalações existentes e contratos de locação que talvez você precise levar em consideração ou adaptar, ou parceiros de colocalização que você possa estar utilizando e que tenham restrições.

Você mencionou anteriormente o problema de longa data de não levar água para dentro do data center. Quero dizer, há muitas instalações de colocalização que ainda não têm condições de pensar em, bem, como vou fazer para levar isso para dentro? E, mesmo que aceitem ou estejam abertas ao resfriamento líquido, podem não oferecer suporte a diferentes tipos. E isso também tem impactos regulatórios e regionais, porque, quando falamos de fluidos — dizemos “líquido” e pensamos em água —, nem sempre é esse o caso. Então, você talvez esteja familiarizado com isso no seu ar-condicionado: costumávamos usar CFCs, e eles eram realmente eficientes, mas faziam mal ao meio ambiente. Então, eles foram proibidos em certas regiões, e agora temos diferentes tipos de refrigerantes que podem ser usados, semelhantes aos do radiador.

Esse é o mesmo problema com o qual estamos lidando no data center: será que esses sistemas são à base de água? Se sim, quanta água eles consomem? São sistemas de circuito fechado, em que é possível reutilizar essa mesma água, ou não são de circuito fechado e precisam evaporá-la constantemente? Talvez haja uma escassez de água, na verdade, e isso é algo muito comum em um data center. Ou seria um tipo diferente de produto químico, como um glicol que você poderia usar em um circuito de resfriamento industrial, ou talvez algum outro tipo de refrigerante? E, portanto, acho que há muitas opções e, por isso, acho que é realmente importante ter um parceiro ou ser capaz de avaliar sua situação específica, o que você está tentando alcançar e o ambiente que você possui.

Bradd Busick: Esse é um ótimo resumo de todas as diferentes escolhas que um CIO poderia fazer — ou, em alguns casos, nem mesmo saber que está fazendo.

Zac Smith: Todos os problemas.

Bradd Busick: É.

Zac Smith: Todos os desafios.

Bradd Busick: É. Isso é extremamente complexo. Quero dizer, como CIO, como você saberia, na prática, que tipo de resfriamento líquido precisa ou qual é o mais adequado para você? E quais são as escolhas comerciais que você está fazendo ao tentar descobrir qual caminho faz mais sentido?

Zac Smith: Eu trabalhei por um tempo em uma grande operadora de centros de dados, e nós eramos multilocatários; por isso, lidávamos com um grande número de clientes diferentes — milhares deles —, todos com necessidades e projetos diferentes. Acho que a primeira coisa que você deve fazer é entender sua carga de trabalho, o que você está tentando realizar, porque o que pode ser um bom cenário para sua “fábrica de IA” — que pode ter requisitos específicos do seu fornecedor — pode ser bem diferente da sua carga de trabalho de TI de uso geral ou de modernização que você possui. Portanto, não acho que você possa começar a resolver esse problema sem pensar em qual carga de trabalho e qual pilha de tecnologia você vai implementar do ponto de vista do hardware.

E, em seguida, a segunda coisa que eu faria seria simplesmente dar uma olhada nas suas instalações. Se você estiver procurando por novas instalações ou construindo algo por conta própria, talvez tenha algumas opções diferentes e possa ser um pouco mais exigente em relação ao mercado. Mas, se você já opera uma instalação, pode imaginar todas as ideias mais interessantes, mas ainda assim precisa conversar com seu parceiro de data center. E esse seria um dos meus primeiros passos: perguntar: “Ei, quais opções vocês oferecem atualmente?” Eu perguntaria se vocês estão fornecendo um circuito interno do prédio, se permitem que você traga uma CDU, uma unidade de resfriamento, para dentro do seu rack ou gaiola. Essas seriam as primeiras perguntas que eu faria, porque isso vai ajudar a orientar você nas opções: devo considerar uma porta traseira? Devo considerar algo adjacente aos chips com uma CDU? Devo considerar um sistema totalmente fechado ou de imersão? Isso vai ficar por aí. E a pergunta “secreta” que eu também faria antes de você mergulhar de cabeça na imersão é simplesmente sobre a carga no piso.

Bradd Busick: Tudo bem.

Zac Smith: Eu sei que parece uma pergunta chata, mas o número de pessoas que perguntariam: “Ei, posso fazer isso?” E nós respondemos: “Não, na verdade, isso é no Japão e eles não podem suportar essa carga por metro quadrado.” Portanto, não se coloque em uma situação em que você talvez tenha projetado e adquirido algum equipamento potencialmente muito caro, e suas instalações não tenham capacidade para suportá-lo.

Bradd Busick: Isso é muito bom. A convicção que todos estamos percebendo, aliás, vem de todos os CIOs que acabaram saindo da estrada porque a última vez que estiveram em seu centro de dados foi... nunca. Então, adorei a sugestão: “Olha, será que podemos recorrer a um parceiro fornecedor aqui para perguntar: ‘Já pensamos nisso?’” E sei que, no mundo da saúde, é como ir ao seu médico e dizer: “Ei, ouvi falar desse plano de tratamento ou dessa trajetória de cuidados. O que você acha?” E realmente levantar essa questão com seu parceiro, que deveria ser capaz de ajudar a orientá-lo. Então, adoro essa sugestão.

Vamos, talvez, aprofundar um pouco mais a questão agora. Acho que a mentira que sempre contamos a nós mesmos é que o resfriamento líquido era apenas para hiperescaladores e mineradores de Bitcoin. Você estava dizendo, nesse ponto, que todos, independentemente do setor ou da área de atuação, deveriam considerar o resfriamento líquido como uma capacidade para operar seus negócios, ou isso ainda é algo exclusivo de certos nichos neste momento?

Zac Smith: É. É meio interessante, porque, considerando a dinâmica do setor — quando se analisa os processadores e sistemas fabricados no mundo —, eu diria que 60% ou 70% dos computadores do mundo acabam indo para um hiperescalador. E, portanto, quer você esteja projetando para a mesma escala que a Amazon ou a Microsoft, o fato é que a cadeia de suprimentos está se orientando para onde está o volume.

Bradd Busick: É.

Zac Smith: E isso significa que os hiperescaladores estão adotando projetos com resfriamento a líquido e arquiteturas de alta densidade, e isso significa que vocês também seguirão esse caminho.

Bradd Busick: É.

Zac Smith: Talvez você não sinta isso exatamente da mesma forma, mas não acho que você possa ir contra a tendência — nem que queira —, porque, na maioria dos casos, você quer fazer suas escolhas no ponto ideal da cadeia de suprimentos. Obviamente, há exceções. Portanto, acho que, embora sempre haja opções com resfriamento a ar — e acredito que isso vai durar bastante tempo —, suspeito que teremos soluções otimizadas projetadas para o resfriamento a ar, acho que o resfriamento líquido vai se tornar parte do ambiente da maioria das pessoas, se não de todo mundo, até certo ponto. E isso será exatamente como a forma como todos nós estamos migrando para servidores com alto número de núcleos, porque, francamente, foi para lá que a cadeia de suprimentos direcionou o mercado junto aos grandes compradores.

Bradd Busick: Então, é evidente que há muitas opiniões diferentes sobre o resfriamento líquido. Aqui está Chris Carreiro, diretor de tecnologia da Park Place Technologies, falando sobre alguns dos desafios que os centros de dados enfrentam na implementação do resfriamento líquido.

Chris Carreiro: Um dos pontos é a governança. Grande parte dessa governança ainda não existe no setor de resfriamento líquido. Realmente não há muita padronização. Diferentes fabricantes de equipamentos originais (OEMs) têm seus próprios produtos e conectores. Existem sistemas diferentes que não são compatíveis entre si. Mas essa padronização precisa, sem dúvida, ser implementada.

Existem muitas diferenças entre o resfriamento tradicional a ar e o resfriamento a líquido; os data centers com resfriamento a ar já existem há 30 anos, tentando dar conta de três gabinetes de 10 kW. Agora, estamos falando de gabinetes de 50, 150 kW e 200 kW. E, no horizonte, estamos diante de racks de meio megawatt e um megawatt, com algumas das novidades que a Nvidia está apresentando. Esses centros de dados não foram construídos para isso. Eu diria que no cenário de projetos iniciais — ou seja, novas construções, novos projetos —, estão começando a implementar as diferentes provisões para resfriamento líquido, enquanto as instalações já existentes estão ficando para trás e não dispõem dos componentes necessários para construir esses data centers — esse é, de certa forma, o desafio que enfrentamos no momento.

Bradd Busick: E, então, Zac, se isso vai se tornar uma verdade incontestável para todos nós neste setor em algum momento, seja agora ou daqui a três anos, como você imagina esse caminho até que os CIOs realmente comecem a ver isso se concretizando em sua transição? São três anos? É 2030? É no mês que vem?

Zac Smith: É. Eu suspeito que a maioria dos CIOs já não siga um ciclo de renovação de hardware de cinco a sete anos em seus centros de dados. Talvez sejam um pouco mais restritos do que isso—

Bradd Busick: É.

Zac Smith: … com algumas das mudanças tecnológicas. Mas três anos é muito tempo. Por isso, acho que, se você está pensando em lançar computadores no mercado antes de 2030, provavelmente deveria procurar entender o resfriamento a líquido e onde e como ele se encaixa no seu portfólio. É possível suportá-lo em seus centros de dados? Como faríamos isso? Quais são nossas limitações ou opções nessa área? Porque acho que vocês vão acordar em 2028 ou 2029; isso vai chegar antes que vocês percebam. Portanto, eu não ignoraria isso. Eu organizaria tudo direitinho. Talvez você possa começar com um teste ou algum tipo de sistema de laboratório para entender isso junto com um parceiro.

E, então, comece a se familiarizar com isso na prática, porque há uma série de mudanças operacionais que ocorrem quando você introduz líquido e esses de alta densidade… Não é apenas líquido. Você tem uma quantidade extrema de potência, talvez um sistema. Por exemplo, se você está investindo em infraestrutura de IA, talvez esteja de olho nos novos Vera Rubins ou nos Grace Hopper. Esses servidores custam algumas centenas de milhares de dólares cada.

Bradd Busick: É. É.

Zac Smith: E você não pode simplesmente entrar lá e consertá-los. Você pode ter uma parte significativa da sua infraestrutura de TI fora de serviço porque—

Bradd Busick: É isso mesmo.

Zac Smith: … você teve um problema no circuito de resfriamento a líquido e não monitorou a situação; então, o sistema de US$ 300.000 queimou e agora você está chateado porque a garantia já expirou.

Bradd Busick: É exatamente isso.

Zac Smith: Mesmo que você vá adotar um pouco disso — seja IA ou alta performance —, é preciso começar a pensar em oferecer alguma capacitação e lançar algumas ideias para testar a reação do público.

Bradd Busick: Eu adoro essa perspectiva educacional. Quero dizer, há toda uma geração de profissionais de TI com quem nós dois já trabalhamos, cuja carreira inteira foi construída em torno da arquitetura com resfriamento por ventiladores, e estamos acostumados a ter ventiladores.

Zac Smith: É.

Bradd Busick: Ou, durante uma interrupção no serviço, as pessoas usam fones de ouvido e ligam do centro de dados para tentar restabelecer o sistema, mas precisavam usar os fones de ouvido porque o barulho das ventoinhas era muito alto.

Zac Smith: Que barulho!

Bradd Busick: Se tivermos que ajudar nossos colegas que estão ouvindo aqui a atravessar essa curva de mudança, fale um pouco sobre alguns desses casos de advertência que você já ouviu falar em relação à implementação do resfriamento líquido. Quero dizer, as coisas parecem realmente incríveis. Acho que todos os CIOs que conheço vão a centros de briefing executivo, participamos de feiras do setor e converso com meus parceiros, e tudo parece incrível do ponto de vista dos fornecedores, mas você meio que mencionou um pouco sobre algumas dessas dores de cabeça operacionais. Dê-me algumas dicas sobre o que você deve perguntar e o que deve levar em consideração se quiser começar a testar essa funcionalidade?

Zac Smith: Bem, acho que, há muito tempo, temos nos beneficiado do que vou chamar de uma “feliz inconsciência” ou de uma “bifurcação” entre nosso parceiro de hardware e nosso parceiro de data center, onde podíamos, de certa forma, comprar o que quiséssemos e, em geral, colocá-lo onde quiséssemos.

Bradd Busick: É mesmo.

Zac Smith: Tudo bem. Talvez custe um pouquinho mais porque temos mais cabos de alimentação. Mas esses dias já acabaram, e não dá para projetar e comprar hardware sem estar em contato com o seu data center—

Bradd Busick: É isso mesmo.

Zac Smith: … ou um parceiro de infraestrutura junto com isso. E acho que não se trata apenas de saber se isso pode funcionar, se temos as conexões certas, a disponibilidade, a aprovação regulatória, seja lá o que for; há algumas preocupações operacionais reais que, na minha opinião, precisam ser trazidas à tona. A primeira é simplesmente a observabilidade. Vocês têm as ferramentas do sistema para observar e monitorar essa quantidade adicional de infraestrutura mecânica? Pode ser uma CDU, pode ser uma bomba, pode ser a taxa de transmissão ou a temperatura em cada servidor. Portanto, as métricas — e ouvi isso de alguns de nossos parceiros de IA com quem já trabalhei — podem ser extremas, a ponto de você estar coletando dados de telemetria...

Bradd Busick: É mesmo.

Zac Smith: … da infraestrutura de resfriamento líquido mais do que da infraestrutura de servidores, até certo ponto—

Bradd Busick: É.

Zac Smith: … porque você está, basicamente, operando uma fábrica mecânica, ou tem alguém em algum lugar.

Bradd Busick: É.

Zac Smith: E, então, acho que essa é uma área: analisar seu conjunto de ferramentas em termos de software e gestão de TI, e verificar se isso será suficiente ou se você precisa investir mais nas ferramentas operacionais relacionadas a isso?

E, então, o segundo seria, gosto de chamá-lo de “problema das 2h da madrugada”. E o problema das 2h da madrugada é o seu servidor superlegal, que está executando a carga de trabalho de produção, tudo está correndo bem, e não sei, algo quebra. Digamos que seja um disco rígido. Você precisa substituir o disco rígido. Normalmente, basta abrir um pequeno ticket de suporte, e seu parceiro de data center, sua equipe técnica de lá, vai dar um jeito nisso, trocar o disco, e pronto.

Bradd Busick: Certo.

Zac Smith: Mas e se você tiver um monte de tubos de líquido e não conseguir retirá-los do rack porque não sabe como abrir o tubo de líquido? O que acontece se eu desconectar isso?

Bradd Busick: Certo.

Zac Smith: Antes, era só que os dados caíam, mas agora vou ter algum líquido de arrefecimento estranho e isso vai me matar ou vai...

Bradd Busick: É.

Zac Smith: … arruinar o data center? Não vou me pronunciar sobre isso. E, então, essa é a outra questão que acho que realmente precisa ser discutida: ei, operações do segundo dia, sabemos como vamos dar conta disso? E nossos parceiros lá — que podem ser apenas um fornecedor que chamamos, uma equipe de suporte remoto ou nossa própria equipe —, eles vão receber o treinamento necessário? Porque eles podem dizer algo como: “Não posso mexer nisso. Não sei qual é o vermelho e qual é o azul.”

Bradd Busick: 100%. É mesmo.

Zac Smith: “Será que eu pego essa?”

Bradd Busick: É.

Zac Smith: Esse é o problema das 2h da manhã.

Bradd Busick: Bem, não me passou despercebido que o tema de hoje é falar sobre manter a calma, e acho que todos os ouvintes concordariam que tivemos conosco hoje um dos caras mais tranquilos do ramo. Zac, muito obrigado por se juntar a nós no The Savvy CIO. Agradecemos pelo seu tempo.

Zac Smith: O prazer é todo meu.

Bradd Busick: Ao refletirmos sobre esse espaço extremamente diversificado, acho que ficou bem claro que a física já não era mais o problema, e estamos rapidamente ultrapassando a capacidade de nossos centros de dados. E, portanto, o CIO moderno de hoje precisa começar a pensar na ideia de que suas cargas de trabalho de IA estão ultrapassando em muito o que o resfriamento normal pode realmente suportar, o que, por sua vez, dá origem a conversas realmente interessantes com seu fornecedor. Como você pode fazer as perguntas certas ao seu fornecedor, e quais são seus novos requisitos operacionais que seu fornecedor talvez ainda não tenha considerado? A nova infraestrutura moderna de IA requer energia e resfriamento em uma escala diferente e em um nível diferente, ter um parceiro de reflexão que possa ajudá-lo a explorar algumas das questões que, até ouvir este episódio, você talvez nem soubesse que precisava fazer.

Por hoje é só. Muito obrigado por nos acompanharem. Sigam-nos para não perderem nenhum episódio. Este foi o The Savvy CIO, apresentado pela Park Place Technologies. Se você quiser saber mais sobre a Park Place, acesse www.parkplacetechnologies.com. E agora, uma última palavra do nosso convidado. Então, este programa se chama “The Savvy CIO”. Zac, qual foi a escolha mais inteligente que você já fez na sua carreira até hoje?

Zac Smith: Provavelmente, a escolha mais inteligente que já fiz foi fazer perguntas bobas para absolutamente todo mundo com quem me deparei. Acho que esse é um dos superpoderes do nosso setor. Há muitas pessoas dispostas a ajudar, todo mundo fica animado em compartilhar, e isso já me ajudou tantas vezes: ser o cara bobo da sala e simplesmente fazer mais uma pergunta.

Bradd Busick: Essa é uma observação muito boa. Você não precisa sempre ser a pessoa que tem a resposta. Na verdade, você só precisa ser a pessoa que tem coragem de dizer: “Eu não sei”. Muito obrigado por isso. Sou o seu apresentador, Bradd Busick, e, como sempre, a TI não deve estar apenas à mesa. A TI é a mesa.

Profissional experiente na área de nuvem, com 25 anos de experiência. Depois de dar meus primeiros passos nos primórdios da hospedagem em Linux (Voxel), fundei uma startup de automação de servidores bare metal (Packet) e, posteriormente, liderei os serviços de infraestrutura digital na Equinix. Atualmente, estou desenvolvendo a Datum para ajudar a impulsionar as próximas 1.000 nuvens.