La paradoja de la supercomputadora de IA de Elon Musk

Elon Musk dice que su startup de inteligencia artificial xAI está construyendo la supercomputadora más grande del mundo en Memphis, Tennessee. Según Business Insider , la compañía está invirtiendo cientos de millones de dólares en el proyecto.

El costo total estimado del proyecto es de $405,9 millones . Sin embargo, la paradoja es que los documentos también muestran que xAI no podrá extraer suficiente electricidad de la red local para hacer funcionar 1 millón de GPU en Memphis, como se describe en el plan de implementación.

Requiere una gran fuente de alimentación

Musk, que ha recaudado 12.000 millones de dólares en financiación para xAI en 2024, dijo que la “fábrica informática gigante” incluye 200.000 GPU Nvidia. La mitad de ellos se instalaron en solo 122 días y el objetivo final es escalar a 1 millón de GPU.

Hasta el momento, xAI ha solicitado 300 MW de energía de red a la empresa de servicios públicos Memphis Light, Gas and Water (MLGW). Sin embargo, esta startup de inteligencia artificial solo ha sido aprobada para 150 MW.

Es posible que la red eléctrica local de Memphis no pueda proporcionar suficiente energía para un proyecto del tamaño de xAI. Foto: Protejamos el Acuífero.

En sus solicitudes de permisos para las turbinas de gas natural en el sitio, la compañía dijo que el acceso a los 300 MW de energía de la red dependería de “mejoras significativas de infraestructura” y mejoras en la transmisión en el área.

Para solucionar el problema, xAI complementó su suministro de energía con generadores a gas de la filial de Caterpillar, Solar Turbines. Generan un total de 250 MW.

Sin embargo, xAI no puede satisfacer la demanda de los clientes “sin generación adicional en el sitio”, dijo la compañía en una solicitud de permiso.

No solo xAI, sino también otros centros de datos y fabricantes de baterías se están expandiendo en este ámbito. TVA, que proporciona electricidad a gran parte de Tennessee y partes de seis estados vecinos, dijo en febrero que planeaba gastar 16 mil millones de dólares en los próximos años para satisfacer el crecimiento histórico de la demanda en su región.

También en la declaración, un portavoz de TVA dijo que la junta necesitaría revisar y aprobar cualquier carga nueva que exceda los 100 MW para garantizar que "se pueda mantener la confiabilidad del sistema eléctrico".

Con capacidad local, xAI actualmente solo puede alimentar 200 000 GPU Nvidia H100. Añadir más poder de procesamiento sería difícil, dijo Shaolei Ren, profesor de ingeniería eléctrica e informática en la Universidad de California en Riverside.

"Todavía es posible, pero eso significaría que se está utilizando una estrategia agresiva de sobresuscripción", dijo Ren.

Según los cálculos de Ren, un millón de GPU podrían requerir más de 1 GW de electricidad para funcionar, o cuatro veces la cantidad de electricidad a la que xAI tiene acceso actualmente en Memphis.

“La gente puede estar entusiasmada con las oportunidades que tenemos por delante, pero hay realidades que debemos aceptar”, dijo el director ejecutivo de MLGW, Doug McGowen, en una reunión del consejo municipal de Memphis.

El hardware cuesta miles de millones de dólares

Es probable que no sólo aumente la demanda de electricidad, sino también los costos del hardware. Anteriormente, Musk dijo que Colossus, el nombre del proyecto, estaba equipado con una combinación de 100.000 chips H100 y 50.000 chips H200 de Nvidia.

TRG Datacenters estima que el chip H100 costará entre 27.000 y 40.000 dólares cada uno, mientras que el chip H200 costará 32.000 dólares cada uno. Esto significa que el hardware para las plantas de Memphis podría costar más que los 4.300 millones de dólares actuales y los 27.000 millones de dólares por un millón de GPU con el precio del chip H100 más económico.

Una antigua instalación de Electrolux en Memphis se está reutilizando para albergar la enorme supercomputadora de xAI. Foto: Bloomberg.

Se espera que Colossus convierta a Memphis en un centro de tecnología avanzada. El atractivo de la próxima era de la supercomputación radica en su velocidad de procesamiento superior.

Una nueva generación de procesadores de datos explotará las propiedades de la física cuántica para ofrecer un salto en las capacidades de resolución de problemas, un elemento clave en la ejecución de programas de IA complejos. El proyecto de "fábrica de computación gigante" de Elon Musk en Memphis avanza a un ritmo increíble y aspira a estar en pleno funcionamiento a finales de 2025.

Sin embargo, el rápido progreso ha dejado a los residentes, miembros del consejo municipal y ambientalistas preguntándose sobre los impactos potenciales del proyecto. La falta de transparencia y la ausencia de reuniones de consulta comunitaria ha causado frustración y una sensación de abandono.

Aunque xAI anunció planes para construir una supercomputadora cerca del vecindario de Boxtown en junio de 2024 y comenzar a renovar una fábrica vacía de Electrolux, los detalles sobre el proyecto siguen siendo limitados.

La escala del consumo de energía de un centro de supercomputación como xAI requiere la aprobación de la Autoridad del Valle de Tennessee, que opera la red eléctrica de gran parte de la región. Foto: New York Times.

Uno de los mayores problemas es la enorme demanda de energía y agua de las supercomputadoras. Se estima que la instalación requerirá alrededor de 3,7 millones de litros de agua y 150 MW de electricidad al día.

Esto supone importantes desafíos para la red eléctrica local, que ha sufrido sobrecargas y cortes de electricidad en los últimos años. Las aguas subterráneas de Memphis, una preciosa fuente de agua limpia, también corren el riesgo de ser sobreexplotadas.

Para mitigar los posibles impactos negativos, los gobiernos locales y las organizaciones ambientales están promoviendo activamente la xAI para implementar soluciones sostenibles.

Las propuestas incluyen la construcción de una planta de tratamiento de aguas residuales de última generación y el suministro de un sistema de baterías de almacenamiento de energía a gran escala. Estos esfuerzos no sólo ayudan a garantizar un suministro estable de agua y electricidad para la supercomputadora, sino que también contribuyen a los objetivos generales de desarrollo sostenible de la ciudad.

Fuente: https://znews.vn/nghich-ly-sieu-may-tinh-ai-cua-elon-musk-post1543685.html