이는 최근 공개된 검색 대기업의 내부 메모에서 나온 평가입니다. 또한 이 문서에서 구글 임원진은 현재 진행 중인 AI 경쟁에서 패배할 가능성에 대해 깊은 우려를 표명했습니다.
Google 대변인은 나중에 해당 문서의 진위를 확인하며 이는 회사 내부자의 의견일 뿐이라고 말했지만, "Google은 이 경쟁에서 이길 위치에 있지 않으며 OpenAI도 마찬가지"라고 인정했습니다.
검색 대기업은 오픈소스 커뮤니티가 선도적인 AI 기업을 앞지르고 있지만, 해당 기업의 제품이 품질 면에서 약간 앞서 있기는 하지만 "격차가 믿을 수 없을 정도로 빠르게 줄어들고 있다"고 밝혔습니다.
자본 규모는 핵심 요소가 아니다
AI는 2022년 말부터 Microsoft와 밀접한 관련이 있는 스타트업인 OpenAI가 개발한 LLM(대규모 언어 모델) 기반 챗봇인 ChatGPT를 출시하면서 대중에게 큰 반향을 불러일으켰습니다. 이 제품의 성공으로 인해 Google을 비롯한 많은 기술 회사가 LLM 경쟁에 뛰어들게 되었습니다.
LLM 모델은 인터넷에서 수집된 수조 개의 단어를 학습하여 인간과 유사한 텍스트나 대화를 생성합니다. 이 과정은 수개월이 걸리고 수천만 달러의 비용이 들기 때문에 AI가 "부유하고 강력한" 기술 기업에 의해 지배될 것이라는 우려가 제기되고 있습니다.
하지만 구글의 내부 메모에 따르면 그런 가정은 틀렸다고 합니다. 오픈소스 커뮤니티의 연구자들은 무료 온라인 리소스를 활용하여 오늘날 가장 큰 독점 모델과 비교할 만한 결과를 얻고 있습니다.
따라서 LLM은 저수준 적응(LoRa)이라는 기술을 통해 "미세 조정"될 수 있으며, 이를 통해 기존 LLM을 특정 작업에 맞게 최적화할 수 있으며, 이는 LLM을 처음부터 학습하는 것보다 훨씬 빠르고 저렴하게 가능합니다.
예를 들어, 3월에는 페이스북 모회사인 메타가 만든 모델인 LLaMa가 온라인에 유출되었습니다. Google의 가장 큰 LLM의 5,400억 개의 매개변수와 비교하면 LLaMa는 70억 개의 매개변수로 규모가 작고 상당히 "원시적"이기는 했지만, 일부 작업에서는 원래 버전의 ChatGPT와 비슷한 결과를 낼 만큼 빠르게 개선되었습니다.
이는 "대규모 연구 센터가 필요한 것에서 단 한 명의 사람, 하룻밤, 그리고 고급 노트북만 필요한 것까지" "훈련과 테스트에 대한 장벽"으로 인해 AI 개발의 미래에 엄청난 영향을 미칠 수 있습니다.
거인 골리앗과 목동 다윗의 싸움
이제 LLM은 단 100달러로 몇 시간 만에 세부적으로 조정될 수 있습니다. 오픈소스 AI는 유연하고 연결성이 뛰어나며 비용이 저렴한 모델을 가지고 있어 구글과 같은 대기업이 모방할 수 없는 "상당한 이점"을 가지고 있습니다. 따라서 이 논문은 Google과 OpenAI가 이러한 오픈소스 경쟁업체에 취약하다는 결론을 내렸습니다.
프로그래머이자 기술 분석가인 사이먼 윌리슨은 NBC에 "많은 작업에서 ChatGPT-4만큼 강력한 기능은 필요하지 않다고 생각합니다."라고 말했습니다. "이제 문제는 얼마나 작은 모델이면서도 유용할 수 있느냐는 것입니다. 오픈 소스 커뮤니티가 이 부분을 매우 빠르게 탐구하고 있습니다."
이는 많은 전문가의 의견과 완전히 유사합니다. 즉, 제대로 활용하고 관찰하면 가장 강력한 점이 가장 약한 점이 될 수도 있다는 것입니다. 마치 어린 양치기 소년 다윗이 새총 하나만으로 거인 골리앗을 물리친 이야기처럼 말입니다.
하지만 AI 개발에 대한 이야기에서 이 주장에 동의하는 사람은 많지 않을 수 있다. 현실적으로 어도비 포토샵이나 마이크로소프트 윈도우와 같은 유료 독점 소프트웨어가 여전히 존재하며, AI 분야도 같은 발전 방향을 따를 가능성이 높습니다.
(이코노미스트, 야후파이낸스에 따르면)
[광고_2]
원천
댓글 (0)