Tại sự kiện Big Data & AI World diễn ra tại Singapore trong hai ngày 9 – 10/10, GreenNode đã trình diễn loạt giải pháp công nghệ dành riêng cho quá trình phát triển mô hình AI, cũng như cách bảo vệ dataset mô hình AI khi triển khai trên thiết bị di động.
GreenNode, đơn vị kinh doanh mảng AI Cloud thuộc khối VNG Digital Business là đối tác ưu tiên của NVIDIA chuyên cung cấp cơ sở hạ tầng AI và các giải pháp AI tiên tiến, đáp ứng nhu cầu toàn cầu về ứng dụng AI. Các giải pháp do GreenNode mang tới Big Data & AI World trải rộng từ hạ tầng đến nền tảng, cho phép đơn giản hóa và tiết kiệm chi phí khi huấn luyện mô hình AI.
Hiện nay, chi phí đầu tư cho việc huấn luyện các mô hình AI được đánh giá là khá đắt đỏ. Đơn cử, chi phí cho mô hình GPT-3 LM mất khoảng 4,3 triệu USD, trong khi đó chi phí cho GPT-4 lên tới 78,3 triệu USD. GreenNode đã giải quyết “bài toán” trên bằng cách cung cấp nhiều loại hình GPU, từ đơn giản như: L40S, A40 và RTX4090 đến các loại tiên tiến như H100, cùng với mô hình phân chia GPU sáng tạo, giúp các nhà phát triển AI tối ưu hóa chi phí huấn luyện cho các dự án dài hạn.
Việc tối ưu hóa chi phí tài nguyên này, theo ông Vũ Thanh Tùng, Head of AI Cloud, GreenNode, sẽ giúp các doanh nghiệp châu Á tăng tốc phát triển, sáng tạo các mô hình AI riêng và thúc đẩy sự bùng nổ công nghệ AI trong khu vực.
Tại sự kiện, đại diện của GreenNode cũng phân tích rõ ưu, nhược điểm của hạ tầng on-prem, qua đó khuyến khích các doanh nghiệp sử dụng dịch vụ của các nhà cung cấp toàn cầu hoặc tận dụng chuyên môn của các NCPs (nhà cung cấp dịch vụ của AI Cloud của NVIDIA). “Thay vì đầu tư hàng triệu USD cho phần hạ tầng phức tạp hay tiêu tốn hàng trăm nghìn USD cho dịch vụ để duy trì việc huấn luyện, các startup có thể nhanh chóng gia nhập đường đua phát triển mô hình chỉ với mức chi phí từ 3.89 USD mỗi giờ”, ông Tùng cho biết.
Với kinh nghiệm xây dựng các sản phẩm quy mô lớn trên nền tảng điện toán đám mây, đội ngũ của GreenNode cũng thực hiện việc đơn giản hóa nhiệm vụ huấn luyện cho các nhà phát triển AI bằng cách cung cấp nền tảng AI GreenNode – nền tảng huấn luyện trên đám mây có khả năng tạo môi trường huấn luyện linh hoạt chỉ với vài thao tác đơn giản. Nền tảng này được tích hợp với các khung học máy (machine learning) phổ biến như: TensorFlow, PyTorch và Kubernetes giúp triển khai và mở rộng khối lượng công việc huấn luyện trở nên đơn giản.
Bên cạnh đó, trong khuôn khổ sự kiện, GreenNode cũng đã giới thiệu nhiều nền tảng, ứng dụng tự phát triển để bảo mật cho quá trình huấn luyện của các startups AI như: LLMs, eKYC, OCR, Computer vision, Chatbot hay giải pháp bảo vệ mô hình AI tích hợp trên ứng dụng di động. Mục tiêu của GreenNode là trở thành đơn vị cung cấp giải pháp phát triển AI toàn diện tại khu vực Châu Á – Thái Bình Dương.
Big Data & AI World là sự kiện nằm trong khuôn khổ tuần lễ Tech Week Singapore, quy tụ nhiều start-up và tập đoàn công nghệ hàng đầu thế giới như: Google, Microsoft, NVIDIA, VAST Data,…
Nguồn: https://www.vng.com.vn/news/enterprise/greennode-don-gian-qua-trinh-phat-trien-cong-nghe-ai-cho-startup-chau-a.html