Empieza por el servidor, reúne todos los aceleradores en una vista consolidada y, a continuación, profundiza en cada GPU para ver la carga, la temperatura, el consumo eléctrico y el estado de funcionamiento en tiempo real.

Los entornos de IA rara vez se limitan a un único proveedor. Entuity supervisa aceleradores de NVIDIA, AMD e Intel, incluido Intel Gaudi, en una única plataforma. Detecta automáticamente qué herramientas de qué proveedor admite cada host y supervisa un servidor con equipos de distintos proveedores como si se tratara de un único dispositivo.

La monitorización a nivel de servidor, por sí sola, se limita al host. « Entuity » modela cinco tipos de objetos por debajo del servidor: el dispositivo GPU, las instancias de GPU (como las particiones NVIDIA MIG, las particiones AMD y las funciones virtuales Intel SR-IOV), las instancias de cálculo, los enlaces de GPU y los conmutadores de estructura de GPU.

Tus aceleradores no funcionan de forma aislada. « Entuity » los integra en la misma plataforma y en la misma línea temporal de incidentes que la red, los servidores, el almacenamiento y la alimentación eléctrica de los que dependen.

Los fallos de la GPU rara vez se producen sin previo aviso. « Entuity » realiza un seguimiento de los contadores que indican problemas de forma temprana, para que tu equipo pueda actuar mientras las cargas de trabajo siguen en ejecución.

Los errores de memoria suelen ser la primera señal de alerta que emite una GPU. Entuity realiza un seguimiento de los contadores de errores ECC corregidos y no corregidos en cada GPU, con umbrales activados por defecto que se activan ante cualquier aumento. Una tarjeta que deja de enviar datos se marca como «desaparecida», en lugar de desaparecer sin previo aviso.

Los fallos en los enlaces son una de las principales causas de interrupción del servicio en los clústeres de GPU, y es fácil pasar por alto un enlace que, aunque esté activo, presenta un deterioro en su rendimiento. « Entuity » supervisa las interconexiones que unen tus GPU, incluyendo NVIDIA NVLink®, AMD xGMI, Intel Xe Link y los puertos Gaudi. Realiza un seguimiento del estado de los enlaces, el ancho de banda y los contadores de errores de CRC, de repetición y de recuperación.

Visibilidad a nivel de conmutador de los conmutadores de la estructura de la GPU, incluido NVIDIA NVSwitch™, que muestra la temperatura de las superficies, el ancho de banda y los contadores de errores fatales y no fatales. Tu equipo detecta los primeros indicios de deterioro de los enlaces y puede tomar medidas de forma proactiva, en lugar de tener que diagnosticar el problema tras producirse un fallo.

Los servidores refrigerados por líquido dependen por completo de la infraestructura de refrigeración que los rodea. « Entuity » integra esa infraestructura en la misma vista que los recursos informáticos que protege.

Entuity Ofrece compatibilidad inmediata con los sistemas de refrigeración por inmersión y de refrigeración líquida directa al chip de los principales proveedores, entre los que se incluyen ACCELSIUS™, GRC®, nVent® y ZutaCore®. Recopila los datos directamente desde el controlador de refrigeración, en lugar de canalizarlos a través del sistema de gestión del edificio.

Supervisa el caudal, la velocidad y la señal de retroalimentación de la bomba, la temperatura y el diferencial del refrigerante de entrada y salida, así como la presión del sistema y del colector. Entuity también controla el nivel del depósito, la posición y el punto de consigna de las válvulas, la detección de fugas y las temperaturas del bastidor y del aire.

Cuando una alarma de refrigeración y una alerta de temperatura de la GPU aparecen en la misma línea temporal de incidentes, tu equipo puede ver la causa y la consecuencia al mismo tiempo. Nadie tiene que buscar correlaciones entre sistemas distintos a las 2 de la madrugada.