IA agéntica: consume 136,5 veces más energía que un chatbot normal

La IA agéntica multiplica hasta por 136,5 el gasto eléctrico frente a los chatbots, según un estudio del KAIST que alerta sobre las GPU inactivas.

by Redazione
IA agéntica: consume 136,5 veces más energía que un chatbot normal - IA agéntica consumo energético

Hubo un momento en que la discusión sobre el gasto de la inteligencia artificial giraba casi toda alrededor del agua. Luego llegaron números más ajustados y la atención se desplazó hacia algo bastante más inquietante: la enorme cantidad de electricidad que necesitan los centros de datos para funcionar. Y ahora, con la llegada de la IA agéntica, ese consumo energético ya no crece de forma discreta. Se multiplica de manera casi obscena.

De un chatbot a un agente, la diferencia está en el tiempo

El Instituto Avanzado de Ciencia y Tecnología de Corea, conocido como KAIST, ha puesto números sobre la mesa. La cosa funciona así: un chatbot recibe una petición, devuelve un resultado y ahí termina todo. Un agente, en cambio, es una cadena de acciones que el software ejecuta por su cuenta, encadenando tareas sin parar. Eso significa que el hardware pasa muchísimo más tiempo trabajando.

En el estudio midieron ambos escenarios. Usando un modelo de lenguaje comparable a los servicios comerciales actuales, una sola petición compleja a un agente se comía 348,41 Wh de electricidad. Dependiendo del agente y del modelo, la cifra sube o baja. Un framework llamado LATS gastó 62,1 veces más energía que un chatbot normal, mientras que uno montado sobre el modelo Llama-3.1 Instruct 70B de Meta llegó al pico: 136,5 veces más por consulta.

Y hay otra clave que suele pasar desapercibida, el tiempo. Los agentes tardan hasta 153,7 veces más que los chatbots convencionales en procesar respuestas. Durante ese rato, las GPU permanecen inactivas más de la mitad del tiempo, pero siguen tragando electricidad. No están a pleno rendimiento, pero sí en guardia, esperando la respuesta de herramientas externas y de páginas web para lanzarse a procesar cuando llega. Este asunto de las GPU paradas no es nuevo, hace unas semanas ya se apuntaba que la mayoría de los equipos comprados por los hiperescaladores estaban sin hacer nada buena parte del tiempo.

Link affiliato

La red eléctrica no da abasto

El verdadero problema es la proyección. Hoy estamos todavía en la era de los chatbots, pero la industria se mueve deprisa hacia los agentes de IA. Ya se fabrican plataformas como Vera Rubin de Nvidia precisamente para esto, y cuando entren en juego la estimación es que la demanda energética alcance el equivalente a la mitad de todo el consumo eléctrico de Estados Unidos.

Para hacerse una idea, en 2023 los centros de datos estadounidenses consumieron “apenas” el 4,4 por ciento del total nacional, y se calcula que esa cifra se duplicará hacia 2030. Las previsiones de KAIST, sin embargo, superan con mucho ese pronóstico.

Mientras esos centros crecen, la red eléctrica no puede decir lo mismo. Las renovables no bastan para calmar el apetito de la IA, así que toca recurrir a nucleares, gas e incluso carbón. En Europa ya hay reacciones: algunos países alejan los nuevos centros de sus grandes ciudades o directamente los rechazan. El motivo son redes saturadas y centros de datos con una demanda mayor que la de la propia población.

No parece que los hiperescaladores vayan a frenar. El propio Jensen Huang, consejero delegado de Nvidia, dejó claro hace tiempo que queda más de un lustro de inversión salvaje en infraestructura. Desde el estudio surcoreano proponen otra vía, un rediseño completo de toda la red eléctrica, desde los microchips hasta los modelos de IA y la propia infraestructura de los centros de datos. Como si eso fuera sencillo, y más ahora que las Big Tech corren por desplegar agentes en aplicaciones empresariales y de consumo.

Link affiliato

Fuente
Imagen: xataka.com

Related Articles