일론 머스크의 AI 슈퍼컴퓨터 역설

일론 머스크는 그의 인공지능 스타트업 xAI가 테네시주 멤피스에 세계 최대 규모의 슈퍼컴퓨터를 건설하고 있다고 밝혔습니다. Business Insider 에 따르면, 해당 회사는 이 프로젝트에 수억 달러를 투자하고 있습니다.

총 프로젝트 비용은 4억 590만 달러 로 추산됩니다. 그러나 역설적인 점은 제출된 서류에 따르면 xAI가 구현 계획에 명시된 대로 멤피스에서 100만 개의 GPU를 구동할 만큼 지역 전력망에서 충분한 전기를 끌어올 수 없다는 것입니다.

엄청난 전력 공급이 필요합니다

2024년에 xAI에 120억 달러의 자금을 조달한 머스크는 "거대한 컴퓨팅 공장"에 20만 개의 엔비디아 GPU가 포함된다고 말했습니다. 이 중 절반은 단 122일 만에 설치되었으며, 궁극적인 목표는 GPU를 100만 개까지 확장하는 것입니다.

지금까지 xAI는 멤피스 전력, 가스 및 수도(MLGW) 공급 사업체에 300MW의 전력망 전력을 요청했습니다. 하지만 이 AI 스타트업은 150MW에 대해서만 승인을 받았습니다.

멤피스의 지역 전력망은 xAI 규모의 프로젝트에 필요한 전력을 충분히 공급하지 못할 수도 있습니다. 사진: 지하수층을 보호하세요.

회사는 현장 천연가스 터빈에 대한 허가 신청서에서 300MW의 전력망 전력에 대한 접근은 해당 지역의 "대규모 인프라 업그레이드"와 송전 개선에 달려 있다고 밝혔습니다.

이 문제를 해결하기 위해 xAI는 Caterpillar 자회사인 Solar Turbines의 가스 발전기를 사용하여 전력 공급을 보완했습니다. 그들은 총 250MW를 생산합니다.

하지만 회사 측은 허가 신청서에서 xAI가 "추가 현장 발전 없이는" 고객 수요를 충족할 수 없다고 밝혔습니다.

xAI뿐만 아니라 다른 데이터 센터와 배터리 제조업체도 이 분야로 확장하고 있습니다. 테네시주 대부분과 인접 6개 주 일부 지역에 전기를 공급하는 TVA는 2월에 해당 지역의 역사적 수요 증가를 충족하기 위해 향후 몇 년 동안 160억 달러를 지출할 계획이라고 밝혔습니다.

TVA 대변인은 성명에서 이사회가 "전기 시스템의 안정성을 유지할 수 있는지" 확인하기 위해 100MW를 초과하는 새로운 부하를 검토하고 승인해야 할 것이라고 말했습니다.

온프레미스 용량을 사용하는 xAI는 현재 Nvidia H100 GPU를 200,000개만 구동할 수 있습니다. 캘리포니아 리버사이드 대학의 전기 및 컴퓨터 공학 교수인 샤올레이 렌은 컴퓨팅 성능을 높이는 것은 어려울 것이라고 말했습니다.

"아직 가능하지만, 이는 공격적인 초과 가입 전략이 사용되고 있다는 것을 의미합니다."라고 런은 말했습니다.

렌의 계산에 따르면, 100만 개의 GPU를 작동시키려면 1GW 이상의 전기가 필요할 수 있는데, 이는 현재 멤피스에서 xAI가 이용할 수 있는 전기량의 4배에 해당합니다.

MLGW의 CEO인 더그 맥고웬은 멤피스 시의회 회의에서 "사람들은 앞으로의 기회에 대해 기대감을 가질 수 있지만, 우리가 받아들여야 할 현실도 있습니다."라고 말했습니다.

하드웨어 비용은 수십억 달러입니다.

전력 수요뿐만 아니라 하드웨어 비용도 증가할 가능성이 높습니다. 머스크 씨는 이전에 이 프로젝트의 이름인 콜로서스에 엔비디아의 H100 칩 10만 개와 H200 칩 5만 개가 혼합되어 장착되었다고 밝혔습니다.

TRG 데이터센터에서는 H100 칩의 가격이 각각 27,000달러에서 40,000달러 사이가 될 것으로 추정하고, H200 칩의 가격은 각각 32,000달러가 될 것으로 추정합니다. 이는 멤피스 지역의 하드웨어 비용이 현재의 43억 달러 보다 더 많이 들 수 있고, 저렴한 H100 칩의 가격을 고려하면 100만 개의 GPU에 270억 달러가 들 수 있다는 것을 의미합니다.

멤피스에 있는 이전 Electrolux 시설은 xAI의 거대한 슈퍼컴퓨터를 수용하기 위해 개조되고 있습니다. 사진: 블룸버그.

콜로서스는 멤피스를 첨단 기술의 중심지로 만들 것으로 기대됩니다. 차세대 슈퍼컴퓨팅의 매력은 뛰어난 처리 속도에 있습니다.

새로운 세대의 데이터 프로세서는 양자 물리학의 특성을 활용하여 복잡한 AI 프로그램을 실행하는 데 중요한 요소인 문제 해결 능력을 획기적으로 향상시킬 것입니다. 일론 머스크의 멤피스에 있는 "거대 컴퓨팅 공장" 프로젝트가 놀라운 속도로 진행되고 있으며, 2025년 말까지 완전 가동을 목표로 하고 있습니다.

그러나 급속한 진행으로 인해 주민, 시의원, 환경운동가들은 이 프로젝트의 잠재적 영향에 대해 의문을 품게 되었습니다. 투명성 부족과 지역 사회 협의 회의의 부재로 인해 좌절감과 버림받았다는 느낌이 들었습니다.

xAI는 이르면 2024년 6월에 Boxtown 인근에 슈퍼컴퓨터를 건설하고 폐쇄된 Electrolux 공장을 개조할 계획을 발표했지만, 해당 프로젝트에 대한 자세한 내용은 아직 제한적입니다.