Tại Hội thảo – Triển lãm Internet Day 2024 diễn ra ngày 27/11/2024 tại Hà Nội, ông Võ Đại Chuyên, Giám đốc Hệ thống Kỹ thuật và Hạ tầng của GreenNode, đã chia sẻ kinh nghiệm phát triển hạ tầng GPU Cloud tại Việt Nam, với mong muốn đồng hành cùng doanh nghiệp và Chính phủ nâng cao năng lực hạ tầng AI quốc gia.
Theo ông Chuyên, Châu Á – Thái Bình Dương hiện đang là khu vực hình mẫu về nỗ lực chuyển đổi số, được đánh giá là thị trường có tốc độ phát triển nhanh chóng về AI và Cloud. Theo dự báo, tổng mức đầu tư cho AI tại khu vực Châu Á – Thái Bình Dương sẽ đạt 110 tỷ USD vào năm 2028, chiếm 10% tổng chi tiêu công nghệ thông tin của khu vực. “Nền kinh tế số APAC đang phát triển mạnh mẽ khi các quốc gia tích cực ứng dụng AI để thúc đẩy chuyển đổi số. Điều này đòi hỏi một hạ tầng công nghệ tiên tiến hơn nhằm đáp ứng các nhu cầu ngày càng cao về AI.”
“GreenNode mong muốn mang GPU AI đến gần hơn với doanh nghiệp trong nước. Đồng thời, với những kinh nghiệm sẵn có trên thị trường, chúng tôi mong rằng sẽ được đồng hành cùng Chính phủ trong hành trình chuyển đổi và phát triển hạ tầng số quốc gia”, ông Chuyên nhấn mạnh.
Bên cạnh đó, đại diện GreenNode cũng đã chỉ ra những khó khăn, thách thức trong quá trình xây dựng trung tâm dữ liệu AI, đồng thời nhấn mạnh lợi thế của GreenNode khi ứng dụng kiến trúc NVIDIA để phát triển các ứng dụng AI đột phá như AI Platform, OCR…
Cụ thể, việc xây dựng trung tâm dữ liệu AI đòi hỏi hệ thống kết nối phải có tốc độ vượt trội. So với hạ tầng truyền thống, trung tâm dữ liệu AI cần tích hợp thêm các kết nối phức tạp như: GPU đến GPU, clos & rail topology, Infiniband, RDMA hay NVlink… Đặc biệt, hệ thống khi vận hành liên tục ở công suất cao sẽ làm gia tăng tỷ lệ gặp lỗi kỹ thuật lớn, do đó cần đội ngũ kỹ thuật có khả năng giải quyết vấn đề nhanh chóng, dựa trên kinh nghiệm và kỹ năng vận hành trung tâm dữ liệu lớn.
Với việc xây dựng các sản phẩm quy mô lớn trên nền tảng điện toán đám mây, đội ngũ của GreenNode đã đơn giản hóa nhiệm vụ huấn luyện cho các nhà phát triển AI bằng cách cung cấp nền tảng AI GreenNode. Đây là nền tảng huấn luyện trên đám mây có khả năng tạo môi trường huấn luyện linh hoạt chỉ với vài thao tác đơn giản. Nền tảng này được tích hợp với các khung học máy (machine learning) giúp dễ dàng huấn luyện các mô hình AI hiệu quả.
Ngoài ra, GreenNode cũng cung cấp nhiều loại hình GPU AI, từ đơn giản đến các loại hình tiên tiến như 1024-card H100, kết hợp cùng với mô hình phân chia GPU sáng tạo, nhờ đó các nhà phát triển AI có thể tối ưu hóa chi phí huấn luyện cho các dự án dài hạn.
“GreenNode tự hào sở hữu các thế mạnh chính bao gồm: đội ngũ kỹ thuật giàu kinh nghiệm trong vận hành trung tâm dữ liệu (Data Center), được ưu tiên tiếp cận những công nghệ mới nhất từ NVIDIA; cùng kinh nghiệm chuyên môn sâu rộng trong việc giải quyết hiệu quả các bài toán của khách hàng tại Việt Nam và khu vực”, ông Chuyên cho biết.
Với đội ngũ kỹ thuật hơn 200 kỹ sư và chuyên gia AI có kinh nghiệm, GreenNode đang là đối tác ưu tiên về dịch vụ đám mây của NVIDIA, được quyền ưu tiên tiếp cận với nhà máy mô hình AI (AI Factory) và các thế hệ chip AI (GPU) hàng đầu của NVIDIA. Tháng 5/2024, GreenNode đã triển khai thành công trung tâm dữ liệu AI Cloud tại Thái Lan trong vòng chưa đến 6 tháng, mang về doanh thu hàng chục triệu USD từ khách hàng toàn cầu.
Internet Day 2024 với chủ đề “Bước tiến mới cho Internet Việt Nam – Bứt phá với DC, Cloud, 5G & AI” quy tụ nhiều doanh nghiệp hàng đầu lĩnh vực công nghệ thông tin – Internet. Đây là hoạt động thường niên của Hiệp hội Internet Việt Nam (VIA) phối hợp cùng Trung tâm Internet Việt Nam (VNNIC) với sự bảo trợ của Bộ Thông tin và Truyền thông.
