이는 최근 공개된 검색 대기업의 내부 메모에서 나온 평가입니다. 또한 이 문서에서 구글 임원진은 현재 진행 중인 AI 경쟁에서 패배할 가능성에 대해 깊은 우려를 표명했습니다.
Google 담당자는 나중에 문서의 진위성을 확인하면서 회사 내부자의 의견일 뿐이라고 말했지만 "자신들이 이 경쟁에서 이길 위치에 있지 않으며 OpenAI도 마찬가지"라고 인정했습니다.
검색 대기업은 오픈소스 커뮤니티가 선도적인 AI 기업을 앞지르고 있지만, 해당 기업의 제품이 품질 면에서 약간 앞서고 있지만 "격차가 엄청나게 빠르게 줄어들고 있다"고 언급했습니다.
자본 규모는 핵심 요소가 아니다
AI는 2022년 말부터 Microsoft와 밀접한 관련이 있는 스타트업인 OpenAI가 개발한 LLM(대규모 언어 모델) 기반 챗봇인 ChatGPT를 출시하면서 대중에게 큰 인기를 얻었습니다. 이 제품의 성공으로 인해 Google을 비롯한 많은 기술 회사가 LLM 경쟁에 뛰어들게 되었습니다.
LLM 모델은 인터넷에서 수집된 수조 개의 단어를 기반으로 훈련되어 인간과 유사한 텍스트나 대화를 생성합니다. 이 과정은 수개월이 걸리고 수천만 달러의 비용이 들기 때문에 AI가 "부유하고 강력한" 기술 기업에 의해 지배될 것이라는 우려가 제기되고 있습니다.
하지만 구글의 내부 메모에 따르면 이런 가정은 틀렸다고 합니다. 오픈 소스 커뮤니티의 연구자들은 무료 온라인 리소스를 활용하여 오늘날 가장 큰 독점 모델과 비교 가능한 결과를 얻고 있습니다.
따라서 LLM은 저수준 적응 또는 LoRa라고 하는 기술을 통해 "미세 조정"될 수 있으며, 이를 통해 기존 LLM을 특정 작업에 맞게 최적화할 수 있으며, 이는 LLM을 처음부터 학습하는 것보다 훨씬 빠르고 저렴하게 가능합니다.
예를 들어, 3월에는 Facebook 모회사 Meta가 만든 모델인 LLaMa가 온라인에 유출되었습니다. Google의 가장 큰 LLM의 5,400억 개의 매개변수와 비교하면 70억 개의 매개변수로 작고 상당히 "원시적"이기는 했지만 LLaMa는 빠르게 개선되어 일부 작업에서 ChatGPT의 원래 버전과 비슷한 결과를 생성했습니다.
이는 "대규모 연구 센터가 필요한 것에서 한 사람, 하룻밤, 고급 노트북만 필요한 것까지" 훈련 및 테스트에 대한 장벽으로 AI 개발의 미래에 지진적 영향을 미칠 수 있습니다.
거인 골리앗과 목동 다윗의 싸움
이제 LLM 학위는 단 몇 시간 만에 100달러로 세부적으로 조정될 수 있습니다. 오픈소스 AI는 유연하고 연결성이 뛰어나며 비용이 저렴한 모델을 갖추고 있어 Google과 같은 대기업이 복제할 수 없는 "상당한 이점"을 가지고 있습니다. 따라서 이 논문은 Google과 OpenAI가 이러한 오픈소스 경쟁자에게 취약하다는 결론을 내렸습니다.
프로그래머이자 기술 분석가인 사이먼 윌리슨은 NBC에 "많은 작업에 ChatGPT-4만큼 강력한 것은 필요하지 않다고 생각합니다."라고 말했습니다. "이제 문제는 얼마나 작은 모델이면서도 여전히 유용할 수 있느냐는 것입니다. 그리고 그것은 오픈 소스 커뮤니티가 매우 빠르게 발견하고 있는 것입니다."
이는 많은 전문가들의 의견과 완전히 유사합니다. 즉, 올바르게 활용하고 관찰하면 가장 강력한 지점이 가장 약한 지점이기도 하다는 것입니다. 마치 어린 양치기 다윗이 새총 하나만으로 거인 골리앗을 물리친 이야기처럼 말입니다.
하지만 AI 개발에 대한 이야기를 들으면 모든 사람이 이 주장에 동의하는 것은 아닐 수도 있다. 현실은 어도비 포토샵이나 마이크로소프트 윈도우와 같은 유료 독점 소프트웨어가 여전히 존재하고, AI 분야도 같은 발전 경로를 따를 가능성이 높다는 것입니다.
(Economist, YahooFinance에 따르면)
[광고2]
원천
댓글 (0)