El CIO avispado: Episodio 2 – «Refrigeración líquida: ¿cuándo, por qué y cuál?»
Podcasts
Zachary Smith, director ejecutivo y cofundador de Datum, se une al presentador Bradd Busick para hablar de por qué los « data centers » están rompiendo su norma de toda la vida de mantener el líquido alejado de los chips. Zac explica a Bradd, en una lección básica de historia, por qué la IA tiene unas necesidades de refrigeración tan elevadas que superan lo que el aire puede soportar, cómo elegir la opción de refrigeración líquida adecuada para tu sistema y cuándo hay que empezar a planificar una extracción de calor más eficiente (spoiler: probablemente antes de lo que crees).
Partiendo de su propia trayectoria —desde cuando reparaba ordenadores para pagarse la carrera de interpretación clásica en Juilliard hasta convertirse en un experto de confianza en los últimos avances tecnológicos para infraestructuras digitales—, Zac analiza las limitaciones muy reales a las que se enfrentan tanto las instalaciones mixtas como las heredadas, y ofrece consejos prácticos sobre cómo evitar un costoso desastre de mantenimiento a las dos de la madrugada.
Además, Chris Carreiro, director tecnológico de Park Place Technology, también aporta su opinión sobre si los « data centers » están realmente preparados para adoptar la refrigeración líquida, qué debe cambiar para llevar a cabo una transición efectiva desde la refrigeración por aire sin que todo se derrita, y los elementos clave que las empresas y sus directivos no pueden pasar por alto si quieren mantenerse al día.
Escucha aquí todos los episodios de «The Savvy CIO».
Transcripción del episodio «Refrigeración líquida: ¿cuándo, por qué y cuál?»
Zac Smith: Si estás pensando en lanzar ordenadores al mercado antes de 2030, probablemente deberías intentando entender en qué consiste la refrigeración líquida y dónde y cómo encaja en tu cartera de productos. ¿Podéis implementarlo en vuestros centros de datos? ¿Cuáles son nuestras limitaciones u opciones al respecto? Porque creo que, cuando os deis cuenta, ya estaremos en 2028 o 2029; llegará antes de que os deis cuenta.
Bradd Busick: Estás escuchando «The Savvy CIO: Modernize Wisely», de Park Place Technologies. Soy vuestro presentador, Bradd Busick. Este es un programa en el que hablamos de las presiones presupuestarias, la adopción de la IA, la seguridad y el arte de mantener el negocio en marcha sin que todo se vaya al traste, así como de las personas que se enfrentan a estos problemas día tras día.
Durante los últimos 30 años, la regla número uno en materia de normas de comportamiento en los centros de datos ha sido muy sencilla: mantener los líquidos alejados del hardware, y punto. Y durante las últimas tres décadas, esa regla ha funcionado realmente bien. La refrigeración por aire se amplió, los racks se mantuvieron manejables y nadie tuvo que ponerse botas de goma si algo salía mal. Pero ahora tenemos esta cosita llamada IA. Da la impresión de que, casi de la noche a la mañana, la unidad de alimentación de un solo rack podría provocar un colapso en todo el almacén. El aire no puede enfriar las cosas con la rapidez suficiente, y la gestión térmica es casi imposible de controlar. Así que ahora el sector está incumpliendo la regla número uno. De hecho, estamos colocando líquidos justo al lado del propio chip. Como suele ocurrir con las nuevas tecnologías, no hay una única forma correcta de hacerlo. Pero, tanto si se opta por la refrigeración por inmersión, la refrigeración directa del chip, la refrigeración por la parte trasera, como si se juega sobre seguro y se sigue con la refrigeración por aire tradicional, cada opción conlleva sus propias ventajas e inconvenientes, quebraderos de cabeza y nuevas preguntas. Y, para ser sinceros, este no es un problema para los próximos cinco años, sino un problema de ahora mismo.
Así que, sea cual sea tu negocio, tu sector, tu ámbito de actividad o tu próximo proyecto o implementación, tienes que empezar a pensar en esto ya, y tienes que saber qué es realmente la refrigeración líquida, qué no es, y cómo tomar la decisión más acertada antes de que esa decisión se tome por ti. Zac Smith es, sin duda, la persona idónea para abordar este tema. Ha dedicado su carrera a estar a la vanguardia de lo que ocurre cuando la ambición del software choca de frente con la infraestructura física. Ha sido pionero en la refrigeración líquida acoplable como estándar abierto, y sabe que no se trata tanto de seguir tendencias como de resolver un problema real, candente y costoso. Cuenta con toda una trayectoria profesional en el ámbito tecnológico y musical a sus espaldas que le ha llevado a donde se encuentra ahora: como director ejecutivo y cofundador de Datum. Bienvenido a «The Savvy CIO», Zac.
Zac Smith: Gracias por invitarme, Bradd.
Bradd Busick: Me alegro de estar contigo. Te agradezco que me hayas dedicado tu tiempo. Mira, has recorrido un camino lleno de giros que te ha llevado a convertirte en un experto en refrigeración líquida. ¿Puedes contarnos la historia que te ha permitido llegar hasta este punto de tu carrera y cómo has llegado a este momento?
Zac Smith: Sí. Creo que, como la mayoría de la gente, no fui a la universidad a estudiar una carrera sobre computación en la nube en los centros de datos en los años noventa. Sinceramente, era como cualquier otro chaval que creció en los 80: me encantaban los videojuegos. No se me daban muy bien, pero tenía algunos amigos que eran muy buenos, así que normalmente acababa siendo el chico del hardware y modificando el ordenador, intentando averiguar si podíamos overclockearlo, cosas así. Pasaron unos cuantos años y acabé yendo a una escuela de música en Nueva York. Y, como tenía 17 años e intentaba pagarme los estudios universitarios, acabé reparando ordenadores como trabajo extra. Y bueno, esa fue toda mi formación en informática.
Pero poco después de graduarme, en el año 2001, el boom de las puntocom estaba en pleno apogeo, y salí de la universidad con una licenciatura en interpretación de contrabajo clásico y acabé montando mi propio negocio de alojamiento web para músicos. Mi objetivo era ponerlos en línea. Y, en aquella época, lo que se hacía era acudir al centro de datos local, había muchos proveedores de conexión por módem y ADSL que tenían quizá un par de racks o algo por el estilo, y uno se las ingeniaba para conseguir una máquina prestada y obtener algo de colocation 1U o algún tipo de alojamiento compartido. Y, antes de que me diera cuenta, ya estaba alojando un servidor Linux, y acabé asociándome con un amigo que sabía mucho más de ordenadores y de Linux, y juntos creamos una de las primeras empresas de computación en la nube basadas en Linux.
Y, por ese camino, tenías que entrar, en detrás, en el centro de datos. Recuerdo la primera vez: estaba sentado no muy lejos de un lugar llamado Telehouse, en el número 25 de Broadway, en el Bajo Manhattan, donde empezamos a instalar algunos de los primeros chips AMD Opteron. Y, si estuviste por allí a principios de la década de 2000, esos eran el «Porsche 911» de los chips para servidores, porque introdujeron la arquitectura de 64 bits, permitían instalar más memoria y se calentaban bastante. Y esa fue mi primera experiencia con el sobrecalentamiento de un centro de datos, porque en aquella época se compraba espacio en el centro de datos por rack, y no tenían ni idea de cuánta potencia o refrigeración se necesitaba. Simplemente te daban el rack y metías todo lo que podías en él, y vaya si lo llenábamos. Estábamos instalando, creo que eran 42 servidores HP DL140 con procesadores Opteron, y fue como si hubiéramos derretido el lugar.
Bradd Busick: Eso es increíble.
Zac Smith: Y esa fue mi primera experiencia con la refrigeración.
Bradd Busick: Eso es increíble. Quiero decir, en primer lugar, qué trayectoria tan impresionante, ya que empezaste más o menos al mismo tiempo que tú. Natalie, ¿puedo hacer un repaso de mis superhabilidades, que se forjaron gracias a los códigos de trucos del juego «Mike Tyson’s Punch-Out!!» (007-373-5963), que te llevan directamente a Mike Tyson?
Zac Smith: Por supuesto.
Bradd Busick: Pero, quiero decir, tú eres un músico de formación clásica. Quiero decir, qué mente tan increíble y maravillosa, que probablemente es la que hace posible gran parte del trabajo que estás haciendo hoy en un ámbito que tanta gente ni siquiera aprecia ni le importa hasta que se rompe. Y entonces, de repente, es como: «Zac, ¿qué hago?». Bueno, ahora que ya sabemos un poco sobre tu trayectoria, pongamos las cosas en contexto para nuestros oyentes. ¿Por qué todo el mundo habla, o debería hablar, de la refrigeración líquida en este momento?
Zac Smith: Lo que tenemos es un mundo informático realmente escalado que, francamente, para la mayoría de la gente simplemente ha funcionado, y eso es bastante sorprendente, pero ha supuesto que se haya alejado de mucha gente. Hemos contado con integradores de sistemas realmente buenos, hemos tenido centros de datos excelentes, y el ritmo de cambio de la Ley de Moore —que establece que la capacidad informática se duplica cada 18 meses— ha hecho que, en los últimos cinco a siete años, hayamos llegado realmente al límite de lo físicamente posible. Estamos fabricando chips de tres nanómetros, una fracción del grosor de un cabello humano, y lo que eso ha significado es que al final hemos tenido que aumentar la potencia de los chips y, por consiguiente, añadir más chips al chip. Así que se optó por el diseño de «chiplets» y por añadir más circuitos. Al principio, se trataba de mejorar la física para poder utilizar más transistores. Después, se trataba de añadir más capas apilándolas. Así que simplemente seguimos ampliando, ampliando este tipo de evolución de la informática.
Y luego llegaron las GPU, que básicamente consisten en un procesamiento vectorial multicarril, con miles de chips en una tarjeta, lo que llevó ese concepto a un n-ésimo grado. Lo que antes era un artilugio pequeño que se utilizaba para los videojuegos ahora está repleto de procesadores y memoria. Así que, como teníamos que conseguir una mayor densidad de memoria y más velocidad, estábamos suministrando más potencia a esos chips de memoria. Y luego, esto se trasladó a las tarjetas de red. Por lo tanto, cada parte de nuestra física se ha vuelto cada vez más exigente en cuanto al consumo de energía. Y, dado que estas aplicaciones relacionadas con la IA han sabido sacar realmente partido a estos nuevos aceleradores, hemos pasado a lo que supongo que la gente llama la «ley de Jensen», que consiste en preguntarnos: ¿qué podemos hacer con la cantidad de potencia de la que disponemos? Porque ese es, en cierto modo, el factor limitante en este momento. Entonces, ¿cuánta inteligencia o cuánto valor se puede generar por vatio?
Y lo estamos consiguiendo principalmente gracias a un mayor número de transistores y más potencia. Y en el mundo de los centros de datos, donde partimos de diseños con 30 años de antigüedad, ¿cómo se consigue que un edificio dure 20 o 30 años, cuando los ordenadores evolucionan a pasos agigantados en ciclos de uno o dos años? Se trata simplemente de un desajuste, y por eso la refrigeración en general, supongo que podríamos llamarlo «extracción de calor», se ha convertido en un gran problema en los centros de datos, que realmente no están equipados para las máquinas actuales que intentamos instalar en ellos.
Bradd Busick: Bueno, Zac, quiero decir que, en mi opinión, una de las habilidades que debe tener un director de sistemas de información (CIO) con visión de futuro hoy en día es ser capaz de explicar conceptos y tareas tremendamente complejos a los miembros del consejo de administración, que quizá no sepan de qué se está hablando, pero también ser capaz de hablar con ingenieros y socios. Por eso, me encantan algunas de las habilidades que han surgido con los modelos LLM, siendo una de ellas ELI5. Explícamelo como si tuviera cinco años. Si tuviéramos que explicárselo a nuestros usuarios, ¿qué es exactamente la refrigeración líquida y qué no lo es?
Zac Smith: Solía dar una clase en el colegio público local sobre cómo funciona Internet, y los niños estaban un poco confundidos al principio porque pensaban que solo se trataba del wifi, que todo Internet era básicamente inalámbrico. Lo entendieron porque los aviones no siempre tienen wifi, así que se dieron cuenta de eso. Pero si hablamos de los problemas de refrigeración y de los centros de datos, seguro que has usado tu portátil, tu MacBook; gestiona bastante bien el calor, pero a veces se calienta. Estás viendo todas esas películas y haciendo todo tipo de cosas, y se calienta.
En física, existe este problema por el que, cada vez que utilizas algo, vas a generar alguna otra acción, y según mi esquema simplista, cuando utilizas un electrón, este va a generar calor. Y eso es precisamente a lo que nos enfrentamos en el centro de datos: toda esa energía que llega a estos ordenadores va a generar calor. Y, normalmente, utilizaríamos un proceso denominado «refrigeración por aire», en el que haríamos girar un ventilador para hacer circular aire más frío e intentar expulsar el aire más caliente. Pero, francamente, el aire tiene sus limitaciones: es un medio realmente muy malo para el intercambio de calor. Así que, dado que generamos tanto calor, tuvimos que plantearnos: ¿cómo capturamos ese calor? Y la respuesta se parece mucho al radiador de tu coche.
Y, por lo tanto, básicamente hemos tenido que empezar a instalar radiadores e intercambiadores de calor en distintos puntos. Hay muchas formas diferentes de hacerlo. Podrías utilizar un radiador en la azotea del edificio para solucionar eso con tu aire acondicionado. Pero se puede ir acercando cada vez más a la carga de trabajo. Y eso es más o menos lo que pienso al respecto: simplemente coger este intercambiador de calor y trasladarlo a diferentes partes de la pila de TI.
Bradd Busick: Entonces, teniendo en cuenta ese modelo mental, ¿todos los tipos de refrigeración líquida son iguales o hay que hacer concesiones?
Zac Smith: Sí. Creo que hay muchísimas disyuntivas, y probablemente este sea el reto al que se enfrenta hoy en día el director de sistemas de información (CIO) moderno o el usuario de infraestructuras, ya que hay que tomar un montón de decisiones y ninguna de ellas es perfecta. Así que, ante todo, creo que la gran mayoría de los directores de sistemas de información se enfrentan a entornos mixtos. No disponen simplemente de espacios en blanco en los que puedan invertir mil millones de dólares y construir la última generación de todo, para luego, dentro de dos años, volver a construirlo todo de nuevo. Probablemente se enfrenten a todo un conjunto de generaciones de equipos, además de restricciones presupuestarias, instalaciones existentes y contratos de alquiler que quizá tengan que tener en cuenta o adaptar, o socios de coubicación con los que quizá trabajes y que tengan sus propias limitaciones.
Antes has mencionado el eterno problema de no introducir agua en el centro de datos. Quiero decir que hay muchas instalaciones de coubicación que, a día de hoy, siguen sin ser capaces de plantearse, bueno, ¿cómo voy a introducir esto? E incluso si lo hacen o están abiertas a la refrigeración por líquido, puede que no admitan diferentes tipos. Y esto también tiene repercusiones normativas y regionales, porque algunos de los fluidos —cuando decimos «líquido», pensamos en agua, pero no siempre es así—. Quizá te suene de tus aparatos de aire acondicionado: antes se usaban los CFC, que eran muy eficientes, pero perjudiciales para el medio ambiente. Luego se prohibieron en determinadas zonas, y ahora disponemos de diferentes tipos de refrigerantes que se pueden utilizar, similares a los del radiador.
Ese es el mismo problema con el que nos encontramos en el centro de datos: ¿son sistemas basados en agua? Si es así, ¿cuánta agua consumen? ¿Son circuitos cerrados, de modo que pueden seguir utilizando esa misma agua, o no son circuitos cerrados y tienen que evaporarla constantemente? Quizás, de hecho, haya escasez de agua, y eso es algo muy habitual en un centro de datos. ¿O se trata de otro tipo de sustancia química, como un glicol que se podría utilizar en un circuito de refrigeración industrial, o quizá algún otro tipo de refrigerante? Y, por lo tanto, creo que hay muchas opciones, por lo que considero que es realmente importante contar con un socio o ser capaz de evaluar tu situación específica, lo que intentas conseguir allí y el entorno del que dispones.
Bradd Busick: Ese es un resumen estupendo de todas las diferentes decisiones que un director de sistemas de información podría tomar o que, en algunos casos, ni siquiera sabría que está tomando.
Zac Smith: Todos los problemas.
Bradd Busick: Sí.
Zac Smith: Todos los retos.
Bradd Busick: Sí. Eso es tremendamente complejo. Quiero decir, como director de sistemas de información, ¿cómo podrías saber realmente qué tipo de refrigeración líquida necesitas o cuál es la más adecuada para ti? ¿Y cuáles son las concesiones empresariales que hay que hacer a la hora de intentar averiguar qué camino es el más sensato?
Zac Smith: Pasé un tiempo trabajando en una gran empresa operadora de centros de datos; éramos un entorno multitenant, por lo que tratábamos con un montón de clientes diferentes —miles de ellos— que tenían necesidades y diseños distintos. Creo que lo primero que debes tener en cuenta es entender tu carga de trabajo, lo que intentas lograr, porque lo que podría ser un buen escenario para tu «fábrica de IA» —que podría tener requisitos específicos por parte de tu proveedor— podría ser bastante diferente de tu carga de trabajo de TI de uso general o de modernización que tengas. Por eso, no creo que se pueda empezar a resolver este problema sin pensar en qué carga de trabajo y qué pila tecnológica se va a implementar desde el punto de vista del hardware.
Y, a continuación, lo segundo que haría sería simplemente echar un vistazo a tus instalaciones. Si estás buscando unas instalaciones nuevas o construyendo algo por tu cuenta, es posible que tengas varias opciones diferentes y puedas permitirte ser un poco más exigente con el mercado. Pero si ya tienes unas instalaciones en funcionamiento, puedes imaginar todas las ideas más interesantes, pero aun así tienes que hablar con tu socio de centros de datos. Y ese sería uno de mis primeros pasos: preguntar: «Oye, ¿qué opciones ofrecéis actualmente?». Preguntaría si proporcionan un circuito de refrigeración para el edificio, si te permiten llevar una CDU (unidad de refrigeración) a tu rack o jaula. Estas serían las primeras preguntas que haría, porque eso te ayudará a orientarte entre las opciones: ¿me decanto por una puerta trasera? ¿Me decanto por algo que esté junto a los chips con una CDU? ¿Me decanto por un sistema totalmente cerrado o por inmersión? Eso es lo que hay que tener en cuenta. Y la pregunta «secreta» que también te haría antes de que te lances al mundo de la inmersión es simplemente la carga en el suelo.
Bradd Busick: Vale.
Zac Smith: Sé que parece una pregunta aburrida, pero la cantidad de gente que pregunta: «Oye, ¿puedo hacer esto?». Y nosotros les respondemos: «No, en realidad está en Japón y allí no pueden soportar esa carga por metro cuadrado». Así que no te metas en una situación en la que quizá hayas diseñado y adquirido algún equipo que podría resultar muy caro, y tu instalación no pueda soportarlo.
Bradd Busick: Eso está realmente bien. Por cierto, esa convicción que todos estamos percibiendo proviene de todos los directores de sistemas de información que acaban de salirse de la carretera porque la última vez que estuvieron en su centro de datos fue… nunca. Así que me encanta la llamada de atención: «Oye, ¿podemos recurrir a un socio proveedor para que nos diga: “¿Hemos pensado en esto?”». Y sé que, en el mundo de la sanidad, es como ir a tu médico y decirle: «Oye, he oído hablar de este plan de tratamiento o de esta vía de atención. ¿Qué te parece?». Y plantearlo de verdad con tu socio, que debería poder ayudarte a orientarte. Así que me encanta esta sugerencia.
Quizá ahora podamos profundizar un poco más. Creo que la mentira que siempre nos hemos contado es que la refrigeración líquida era solo para hiperescaladores y mineros de Bitcoin. ¿Estás diciendo, en este momento, que todo el mundo, independientemente del sector o del ámbito de actividad, debería plantearse la refrigeración líquida como una opción para gestionar su negocio, o es algo exclusivo de determinados nichos en este momento?
Zac Smith: Sí. Es bastante interesante, porque, si nos fijamos en la dinámica del sector y en los procesadores y sistemas que se fabrican en todo el mundo, sospecho que entre el 60 % y el 70 % de los ordenadores del mundo acaban en manos de un hiperescalador. Y, por lo tanto, tanto si diseñas a la misma escala que Amazon o Microsoft, lo cierto es que la cadena de suministro se orienta hacia donde está el volumen.
Bradd Busick: Sí.
Zac Smith: Y eso significa que los hiperescaladores están apostando por diseños con refrigeración líquida y arquitecturas de alta densidad, y eso significa que vosotros también vais a seguir ese camino.
Bradd Busick: Sí.
Zac Smith: Puede que no lo veas exactamente de la misma manera, pero no creo que puedas ir en contra de la tendencia, ni que quieras hacerlo, porque, en la mayoría de los casos, lo que quieres es seleccionar en el punto óptimo de la cadena de suministro. Obviamente, hay excepciones. Así que creo que, aunque siempre habrá opciones refrigeradas por aire —y creo que seguirán existiendo durante bastante tiempo—, sospecho que tendremos soluciones optimizadas diseñadas para la refrigeración por aire, creo que la refrigeración líquida va a formar parte, en mayor o menor medida, del entorno de la mayoría de la gente, si no de todo el mundo. Y eso será igual que cuando todos nos pasamos a servidores con un elevado número de núcleos, porque, francamente, ahí es donde la cadena de suministro impulsó el mercado con los grandes compradores.
Bradd Busick: Así pues, está claro que hay muchas opiniones diferentes sobre la refrigeración líquida. A continuación, Chris Carreiro, director tecnológico de Park Place Technologies, nos habla de algunos de los retos a los que se enfrentan los centros de datos a la hora de implantar la refrigeración líquida.
Chris Carreiro: Uno de los aspectos es la gobernanza. Gran parte de esa gobernanza aún no existe en el ámbito de la refrigeración líquida. La verdad es que no hay mucha estandarización. Los distintos fabricantes de equipos originales tienen sus propios productos y conectores. Existen sistemas diferentes que no son compatibles entre sí. Pero es evidente que esa estandarización tiene que llegar.
Hay muchas diferencias entre la refrigeración tradicional por aire y la refrigeración líquida; los centros de datos con refrigeración por aire llevan 30 años intentando mantener en funcionamiento tres armarios de 10 kW. Ahora, estamos hablando de armarios de 50, 150 kW y 200 kW. Y además, en el horizonte, se prevén racks de medio megavatio y un megavatio con algunas de las novedades de las que habla Nvidia. Estos centros de datos no están construidos para ello. Yo diría que en el ámbito de las instalaciones nuevas —es decir, nuevas construcciones, nuevos diseños— están empezando a implementar las diferentes medidas para la refrigeración líquida, mientras que las instalaciones ya existentes se están quedando atrás y carecen de los componentes necesarios para construir estos centros de datos, lo que supone un reto en la situación en la que nos encontramos ahora mismo.
Bradd Busick: Y pues, Zac, si esto va a convertirse en una regla de oro para todos los que formamos parte de este sector en algún momento, ya sea ahora o dentro de tres años, ¿cómo ves ese plazo en el que los directores de sistemas de información empezarán realmente a ver cómo esto se materializa en su transición? ¿Son tres años? ¿Es en 2030? ¿Es el mes que viene?
Zac Smith: Sí. Supongo que la mayoría de los directores de sistemas de información (CIO) ya no siguen un ciclo de renovación de hardware de entre cinco y siete años en sus centros de datos. Quizá sus plazos sean un poco más ajustados que eso...
Bradd Busick: Sí.
Zac Smith: … con algunos de los cambios tecnológicos. Pero tres años es mucho tiempo. Por eso, creo que, si estáis pensando en lanzar ordenadores al mercado antes de 2030, probablemente deberíais plantearos entender la refrigeración líquida y dónde y cómo encaja dentro de vuestra cartera. ¿Podéis implementarlo en vuestros centros de datos? ¿Cómo lo haríamos? ¿Cuáles son nuestras limitaciones u opciones al respecto? Porque creo que os vais a dar cuenta en 2028 o 2029; llegará antes de que os deis cuenta. Así que yo no lo ignoraría. Me aseguraría de tenerlo todo bien atado. Quizá podrías empezar con una prueba o algún tipo de sistema de laboratorio para entenderlo junto con un socio.
Y, a continuación, empieza a familiarizarte con ello desde el punto de vista operativo, porque se producen un montón de cambios operativos cuando se introduce líquido y estos de alta densidad… No se trata solo de líquido. Tienes una potencia extrema, quizá todo un sistema. Por ejemplo, si estás invirtiendo en infraestructura de IA, es posible que estés pensando en los nuevos Vera Rubins o en tus Grace Hopper. Estos servidores cuestan unos doscientos mil dólares cada uno.
Bradd Busick: Sí. Sí.
Zac Smith: Y no puedes simplemente entrar ahí y arreglarlos. Es posible que una parte importante de tu infraestructura informática quede fuera de servicio porque...
Bradd Busick: Así es.
Zac Smith: … tuviste un problema con el circuito de refrigeración líquida y no lo supervisaste, y luego se estropeó el sistema de 300 000 dólares y ahora te has quedado sin garantía.
Bradd Busick: Así es, exactamente.
Zac Smith: Aunque solo vayas a tener un poco de esto, ya sea IA o alto rendimiento, tienes que empezar a plantearte poner en marcha algunas iniciativas de formación y pruebas piloto.
Bradd Busick: Me encanta este enfoque educativo. Quiero decir que hay toda una generación de profesionales de las tecnologías de la información con los que ambos hemos trabajado, cuya carrera profesional se ha desarrollado íntegramente en torno a la arquitectura de refrigeración por aire, y estamos acostumbrados a tener ventiladores.
Zac Smith: Sí.
Bradd Busick: O bien, durante un periodo de inactividad, la gente lleva auriculares y llama desde el centro de datos para intentar ponerlo en marcha, pero tenían que llevar los auriculares porque había mucho ruido debido a los ventiladores.
Zac Smith: Qué ruido.
Bradd Busick: Si tenemos que ayudar a nuestros compañeros que nos están escuchando a atravesar esta curva de cambio, cuéntanos un poco sobre algunas de esas historias con moraleja que hayas oído sobre la implantación de la refrigeración líquida. Es decir, todo parece realmente impresionante. Creo que todos los directores de sistemas de información (CIO) que conozco acuden a centros de información para ejecutivos y vamos a ferias del sector, y hablo con mis socios, y todo parece increíble desde el punto de vista de los proveedores, pero tú has mencionado un poco algunos de esos quebraderos de cabeza operativos. ¿Podrías darme algunas pautas sobre qué deberías preguntar y en qué deberías pensar si quieres empezar a poner a prueba esa funcionalidad?
Zac Smith: Bueno, creo que, durante mucho tiempo, nos hemos beneficiado de lo que voy a llamar o bien una «feliz ignorancia» o bien una «bifurcación» entre nuestro socio de hardware y nuestro socio de centros de datos, lo que nos permitía, en cierto modo, comprar lo que quisiéramos y, por lo general, colocarlo donde quisiéramos.
Bradd Busick: Sí.
Zac Smith: Vale. Quizás cueste un poco más porque tenemos algunos cables de alimentación más. Pero esos días ya han pasado, y no se puede diseñar y comprar hardware sin estar en contacto con el centro de datos...
Bradd Busick: Así es.
Zac Smith: … o un socio que se encargue de las instalaciones junto con ello. Y creo que no se trata solo de si puede funcionar, sino de si contamos con las conexiones adecuadas, la disponibilidad, la autorización normativa, lo que sea; hay un par de cuestiones operativas reales que, en mi opinión, es necesario poner de manifiesto. La primera es, sencillamente, la observabilidad. ¿Dispones de las herramientas del sistema para observar y supervisar esta cantidad adicional de infraestructura mecánica? Puede tratarse de una CDU, de una bomba, del rendimiento o de la temperatura de cada servidor. Así que las métricas —y esto me lo han comentado algunos de nuestros socios de IA con los que he trabajado— pueden ser extremas, hasta el punto de que se recogen datos de telemetría...
Bradd Busick: Sí.
Zac Smith: … de la infraestructura de refrigeración por líquido más de lo que lo haces con tu infraestructura de servidores, hasta cierto punto…
Bradd Busick: Sí.
Zac Smith: … porque, básicamente, estás gestionando una planta mecánica, o hay alguien en algún sitio.
Bradd Busick: Sí.
Zac Smith: Y, pues, creo que ese es un aspecto que hay que tener en cuenta: analizar el conjunto de herramientas de que se dispone en materia de software y gestión de TI, y plantearse si va a ser suficiente o si es necesario invertir más en las herramientas operativas relacionadas con ello.
Y, luego, el segundo sería, me gusta llamarlo el problema de las 2:00 de la madrugada. Y el problema de las 2:00 de la madrugada es que tu servidor, que es una pasada, está ejecutando la carga de trabajo de producción, todo va sobre ruedas y, no sé, algo se estropea. Digamos que es un disco duro. Tienes que ir a sustituir el disco duro. Normalmente, abres un pequeño ticket de soporte, tu socio del centro de datos y tu equipo técnico de allí se pondrán manos a la obra, cambiarán el disco y listo.
Bradd Busick: Exacto.
Zac Smith: Pero, ¿y si tienes un montón de tubos de líquido y no puedes sacarlos del bastidor porque no sabes cómo abrir el tubo de líquido? ¿Qué pasa si desconecto esto?
Bradd Busick: Exacto.
Zac Smith: Antes solo bajaban los datos, pero ahora voy a tener algún líquido refrigerante raro y eso me va a matar o va a...
Bradd Busick: Sí.
Zac Smith: … ¿arruinar el centro de datos? No voy a entrar en eso. Y bueno, esa es la otra cuestión que creo que realmente hay que analizar: oye, las operaciones del segundo día, ¿sabemos cómo vamos a gestionarlas? ¿Y nuestros socios allí —que pueden ser simplemente un proveedor al que llamamos, un equipo de asistencia remota o nuestro propio equipo— van a recibir la formación necesaria? Porque podrían decir algo como: «No puedo tocar esto. No sé cuál es el rojo y cuál el azul».
Bradd Busick: Al 100 %. Sí.
Zac Smith: «¿Lo hago yo eso?»
Bradd Busick: Sí.
Zac Smith: Ese es el problema de las 2:00 de la madrugada.
Bradd Busick: Bueno, no se me escapa que el tema de hoy es hablar de cómo mantener la calma, y creo que todos los oyentes estarán de acuerdo en que hoy hemos tenido con nosotros a uno de los tipos más geniales del sector. Zac, muchísimas gracias por acompañarnos en «The Savvy CIO». Te agradecemos tu tiempo.
Zac Smith: Es un placer para mí.
Bradd Busick: Al reflexionar sobre este espacio tan diverso, creo que quedó muy claro que la física ya no era el problema, y que estamos superando rápidamente la capacidad de nuestros centros de datos. Por eso, el director de sistemas de información (CIO) moderno de hoy en día tiene que empezar a plantearse que sus cargas de trabajo de IA están superando con creces lo que la refrigeración normal puede realmente soportar, lo que a su vez da pie a conversaciones realmente interesantes con su proveedor. ¿Cómo puedes formular las preguntas adecuadas a tu proveedor y cuáles son tus nuevos requisitos operativos en los que quizá tu proveedor aún no haya pensado? La nueva infraestructura moderna de IA requiere energía y refrigeración a una escala y un nivel diferentes, por lo que es importante contar con un socio que te ayude a abordar algunas de esas preguntas que, hasta que hayas escuchado este episodio, quizá ni siquiera sabías que tenías que plantear.
Esto es todo por hoy. Muchísimas gracias por escucharnos. No olvidéis seguirnos para no perderos ningún episodio. Esto ha sido «The Savvy CIO», un programa que os ofrece Park Place Technologies. Si quieres saber más sobre Park Place, visita www.parkplacetechnologies.com. Y ahora, unas últimas palabras de nuestro invitado. Este programa se llama «The Savvy CIO». Zac, ¿cuál ha sido la decisión más acertada que has tomado en tu carrera hasta la fecha?
Zac Smith: Probablemente, la decisión más acertada que he tomado nunca fue hacer preguntas tontas a absolutamente todo el mundo con el que me cruzaba. Creo que es uno de los superpoderes de nuestro sector. Hay mucha gente dispuesta a ayudar, a todo el mundo le encanta compartir, y eso me ha servido muchísimas veces: ser el tonto de la sala y limitarme a hacer una pregunta más.
Bradd Busick: Es una observación fantástica. No siempre tienes que ser la persona que tiene la respuesta. En realidad, solo tienes que ser la persona que tiene el valor de decir «no lo sé». Muchísimas gracias por eso. Soy vuestro presentador, Bradd Busick, y, como siempre, las TI no deberían limitarse a estar en la mesa. Las TI son la mesa.
Biografía del invitado
Experto en la creación de nubes con 25 años de experiencia. Tras dar mis primeros pasos en los inicios del alojamiento web con Linux (Voxel), fundé una startup dedicada a la automatización de servidores físicos (Packet) y, posteriormente, dirigí los servicios de infraestructura digital en Equinix. Ahora estoy desarrollando Datum para contribuir a impulsar las próximas 1.000 nubes.