A Comprehensive Analysis of Process Energy Consumption on Multi-socket Systems with GPUs

Estimar de forma robusta el consumo energético en Computación de Alto Rendimiento (HPC) es esencial para evaluar la huella energética de las cargas de trabajo modernas, especialmente en campos como la investigación, desarrollo y despliegue de Inteligencia Artificial (IA). El uso extensivo de superordenadores para el entrenamiento de IA ha aumentado las preocupaciones sobre el consumo de energía y las emisiones de carbono. Las herramientas existentes de estimación energética suelen asumir el uso exclusivo de nodos informáticos, una premisa que se vuelve problemática con la llegada de superordenadores que integran microservicios, como se ha visto en iniciativas como Aceleración como Servicio (XaaS) y la computación en la nube.
Este trabajo investiga el impacto de las instrucciones ejecutadas en el consumo total de energía, proporcionando información sobre el comportamiento integral de los sistemas HPC. Introducimos dos modelos matemáticos novedosos para estimar el consumo energético de un proceso basándose en la energía total de los nodos, el uso del proceso y un vector normalizado de la distribución de probabilidad de tipos de instrucciones para procesos de CPU y GPU. Nuestro enfoque permite la contabilidad energética para procesos específicos sin necesidad de aislamiento.
Nuestros modelos demuestran una alta precisión, prediciendo el consumo de energía de la CPU con apenas un error del 1,9%. Para las predicciones de GPU, los modelos alcanzan un error relativo central del 9,7%, mostrando una clara tendencia a ajustar con precisión los datos de prueba. Estos resultados allanan el camino para nuevas herramientas que midan y tengan en cuenta el consumo energético en entornos compartidos de supercomputación.