DeepSeek은 보고서에서 총 훈련 비용이 557만 6천 달러였으며, 이는 주로 Nvidia의 그래픽 처리 장치 임대 가격에 따른 것이라고 밝혔습니다. 또한 이 회사는 이 수치가 "공식적인 교육"만을 반영하며 아키텍처, 알고리즘 및 데이터에 대한 사전 연구나 실험과 관련된 비용은 포함하지 않는다고 경고합니다. 이는 즉시 투자자들의 관심을 끌었고, 1월 27일 단 하루 만에 전 세계 기술 기업의 주식이 1조 달러나 '증발'하는 결과를 낳았습니다.
DeepSeek의 운영 비용은 주장하는 것보다 훨씬 더 높습니까?
반도체 연구 및 컨설팅 회사인 SemiAnalysis의 보고서는 DeepSeek 개발 비용에 대한 또 다른 관점을 제시합니다. 이 회사는 DeepSeek의 하드웨어 지출이 주장하는 것보다 훨씬 높을 것으로 추정하며, 연구 개발(R&D) 비용과 총 소유 비용이 상당하다고 강조했습니다.
SemiAnalysis는 모델 훈련을 위한 "합성 데이터"를 생성하려면 "상당한 양의 계산"이 필요하다고 밝혔습니다. 또한 기업에서는 실험을 하고, 새로운 아키텍처를 개발하고, 데이터를 수집하고 정리하고, 직원들에게 급여를 지급해야 합니다.
DeepSeek에 2,000개가 아닌 50,000개의 GPU가 필요한가?
전문가들은 계산에 따르면 DeepSeek이 약 50,000개의 Hopper GPU, 10,000개의 H800 GPU, 10,000개의 더 강력한 H100 GPU, 추가 H20 GPU로 구성된 대규모 컴퓨팅 시스템을 운영하고 있다고 말합니다. 이 수치는 DeepSeek가 이전에 주장했던 2,048개의 Nvidia GPU만 사용했다는 주장과 모순됩니다. 서버에 대한 총 자본 지출은 16억 달러로 추산되고, 운영 비용은 9억 4,400만 달러에 달합니다.
SemiAnalysis는 DeepSeek에서 50,000개의 Nvidia GPU가 사용되었다고 믿습니다.
DeepSeek은 중국의 AI 중심 헤지펀드인 High-Flyer의 공동 창립자인 루옹 반 퐁에 의해 2023년에 설립되었습니다. 이 스타트업은 2023년 4월 해당 펀드의 AI 연구 부문에서 성장하였으며, 대규모 언어 모델을 개발하고 인공 일반 지능(AGI)을 달성한다는 목표를 가지고 있습니다.
DeepSeek에 대한 관심은 회사가 OpenAI의 o1과 경쟁하지만 오픈 소스로 제공되어 모든 AI 개발자가 사용할 수 있는 추론 모델인 R1을 출시했을 때 증가했습니다. 하지만 다른 많은 중국 챗봇과 마찬가지로 DeepSeek도 특정 주제에 대해서는 제한이 있습니다.
OpenAI의 CEO 샘 알트먼은 DeepSeek의 모델을 칭찬하며 DeepSeek은 "분명히 훌륭한 모델"이라고 말했습니다. 하지만 그는 DeepSeek이 OpenAI의 데이터를 "정제된" 방식으로 수집하고 있다는 증거가 있다고도 말했습니다.
[광고2]
출처: https://thanhnien.vn/chi-phi-phat-trien-deepseek-bi-tang-boc-185250203151508438.htm
Comment (0)