GenZ 엔지니어, 베트남 국민을 위한 무료 인공지능 애플리케이션 개발

미국을 떠나 귀국한 Nguyen Hoang Quan과 VILM의 동료들은 베트남 사람들이 고객 관리 분야에서 사용할 수 있는 무료 인공지능(AI) 시스템을 개발했는데, 그 시스템은 매달 수십만 건 이상 다운로드됩니다.

2023년 6월, 25세의 응우옌 황 쿠안(Nguyen Hoang Quan)과 ZaloAI의 인공지능 엔지니어인 23세의 팜 녓 휘(Pham Nhut Huy), 아일랜드 코크대학교 박사과정 학생인 24세의 다오 민 둥(Dao Minh Dung)은 베트남 사람들이 가장 최적의 방식으로 최첨단 AI 기술을 경험할 수 있도록 돕고자 하는 마음으로 비영리 단체 VILM을 공동 창립했습니다.

약 6개월에 걸친 연구와 적용 끝에, 팀은 OpenHermes, VinaLlama, Vistral을 포함한 3개의 무료 AI 모델을 성공적으로 개발했습니다. 이러한 연구는 사용자의 의도를 이해하고 이에 따라 행동할 수 있는 AI 시스템(대규모 행동 모델)을 개발하기 위한 기초가 되는 연구입니다. 이러한 모델은 기계 제어, 보호자 없이 장애인을 더 잘 돕는 로봇, 프로그래머가 오류를 수정하는 데 도움을 주는 로봇, 고객을 돌보거나 질문에 무료로 답변하는 가상 비서와 같은 기술 분야에 적용됩니다.

OpenHermes는 월간 다운로드 수가 85,000건에 달하며, 세계 최대의 AI 모델 공유 사이트인 HuggingFace에서 가장 많이 다운로드된 언어 모델 상위 10위에 올랐습니다. 스크린샷

OpenHermes 모델은 ChatGPT와 같이 영어를 지원하는 대규모 언어 모델이지만 점수가 더 높습니다. 이를 통해 사용자는 인터넷에 연결하지 않고도 개인 컴퓨터에 모델을 다운로드하여 사용할 수 있습니다. 주목할 점은 OpenHermes의 학습 데이터 양이 OpenAI의 ChatGPT 학습 데이터 양의 1/100에 불과하다는 것입니다. 현재 이 앱은 매달 50,000건 이상 다운로드되고 있습니다. OpenHermes-2.5 및 OpenHermes-2.5-Vision은 미국 실리콘 밸리의 40개 이상의 스타트업에서 사용되고 있습니다.

VinaLlama와 Vistral은 베트남 시장을 대상으로 하는 두 가지 언어 모델로, 국내 사용자가 최첨단 AI 기술을 보다 쉽게 ​​경험할 수 있도록 돕는 것을 목표로 합니다.

황취안은 대학을 졸업하지 않았음에도 불구하고 7년 동안 미국에서 공부했고 OpenAI에서 ChatGPT 인공지능 모델의 연구 엔지니어로 일했습니다. 2022년에는 마이크로소프트의 Bing Chat 제품과 OpenAI의 데이터 엔지니어로 일하면서 수천 달러의 수입을 올렸습니다. 2023년, 미국에서 기술 분야의 해고가 잇따르자 콴은 졸업 후 취업 시장이 매우 암울하다는 것을 깨달았지만, 베트남에서 기회를 보고 귀국하기로 결정했습니다.

응우옌 호앙 권. 사진: NVCC

VILM에서 Quan은 데이터 강화 기술 연구와 AI 교육을 주로 담당하는 수석 엔지니어입니다. 나트 휘는 AI를 훈련할 때 기술 연구의 역할을 맡고, 민 융은 이론 연구에서 새로운 방법을 제안합니다.

Quan은 ChatGPT(대규모 언어 모델)와 같은 현재의 대규모 언어 모델은 텍스트 출력만 제공하는 반면, 인간은 다양한 방법으로 의사소통하고 지식을 습득할 수 있다고 설명했습니다. 그래서 저희 팀은 언어 수준에서만 그치지 않고 다양한 유형의 입력과 출력(언어, 이미지, 비디오, 오디오 등의 데이터 유형을 수신하고 출력 가능) 사이에서 유연하게 작동할 수 있는 시스템을 만드는 것을 목표로 합니다.

대형 액션 모델을 만드는 목표를 달성하기 위해 팀은 보안과 속도라는 두 가지 문제를 극복해야 했습니다. 현재 AI 애플리케이션은 대부분 사용자 데이터를 사용하고 이를 처리를 위해 OpenAI와 같은 회사의 서버로 전송하는데, 여기에는 보안 문제가 제기됩니다. 이 팀은 사용자 경험에 영향을 미치지 않도록 성능과 속도의 균형을 맞추면서도 모바일 기기에서 직접 처리할 수 있을 만큼 작고 빠른 AI 모델을 만드는 데 집중했습니다.

실험팀은 실제 소스에서 얻은 데이터를 사용하는 방식을 취하기보다는, AI가 다시 학습하도록 하기 위해 AI에서 생성된 데이터를 활용했습니다. 처음에는 컴퓨팅 리소스(AI를 훈련하는 컴퓨터)를 찾는 데 어려움을 겪었지만 나중에는 전 세계의 대기업과 연구실에서 후원을 받았습니다.

Quan은 이러한 제품을 만드는 것은 사람들이 AI 애플리케이션에 빠르고 ChatGPT나 Bing Chat 못지않은 품질로 접근할 수 있도록 돕고, 향후 AI 모델을 연구하고 만드는 작업을 더욱 간편하게 만드는 데 주로 도움이 된다고 말했습니다. 베트남어와 베트남 문화에 제한이 있는 ChatGPT 대신, 베트남 기업은 베트남어 VinaLlama를 다운로드할 수 있습니다.

VinaLlama 언어 모델은 베트남어 수학 문제를 쉽게 처리합니다. 그림은 VinaLlama 제품을 사용하여 수학 문제를 푸는 데모입니다. 스크린샷.

AI 챗봇 구축 플랫폼 Mindmaid의 창립자인 당하이록 씨는 AI 애플리케이션 개발자의 관점에서 볼 때, 비용과 데이터 개인 정보 보호가 기업이 AI 애플리케이션을 배포할 때 가장 우려하는 두 가지 문제라고 밝혔습니다. 이 문제에 대한 가장 만족스러운 해결책은 기업 인프라에서 실행 가능하고 기업의 자체 데이터를 통해 학습(미세 조정)이 가능한 오픈 소스 LLM 모델입니다. 따라서 VinaLlama, Vistral과 같은 베트남의 오픈소스 LLM 모델은 베트남에서 AI 애플리케이션을 홍보하는 데 매우 가치가 있습니다.

"이러한 오픈소스 모델은 또한 더 많은 프로그래머와 기술 애호가가 값비싼 GPU(그래픽 카드) 인프라에 투자하지 않고도 맥북만으로 AI 엔지니어 분야에 접근할 수 있도록 합니다. 이는 또한 가까운 미래에 수요가 많은 베트남의 AI 엔지니어 인력을 촉진할 것입니다."라고 Loc 씨는 말했습니다.

콴에 따르면 베트남 사람들은 과학 이론에 대한 기초가 매우 튼튼하고 AI에 능숙하며, ChatGPT에도 연구에 참여하는 인력이 있지만, 끊임없이 변화하는 기술 흐름을 빠르게 따라잡는 데는 어려움이 있습니다. "베트남 사람들에게 필요한 것은 최종 사용자를 위한 제품을 만드는 경험이며, 이를 통해 그들이 마주치는 문제를 진정으로 이해하고 연구를 올바르게 진행할 수 있는 방향성을 잡는 것입니다." Quan은 베트남 사람들의 기술 지원을 위해 무료 AI 모델을 연구하는 이유에 대해 이렇게 말했습니다. 그는 많은 국제 그룹과 협력해 왔으며, 베트남의 연구 그룹과도 항상 협력할 준비가 되어 있다고 말했다.

누 퀸

소스 링크: https://vnexpress.net/nhom-ky-su-genz-lam-ung-dung-tri-tue-nhan-tao-mien-phi-cho-nguoi-viet-4708838.html