MediaTek, Meta의 Llama 2 플랫폼을 사용하여 생성 AI 강화

[광고_1]

SGGPO 2023년 8월 25일 10시 37분

글로벌 반도체 회사인 미디어텍(MediaTek)은 자사의 차세대 오픈소스 대규모 언어 모델(LLM)인 Meta의 Llama 2와 긴밀히 협력하고 있다고 발표했습니다.

미디어텍, 완벽한 엣지 컴퓨팅 생태계 구축 목표

MediaTek은 Meta의 LLM과 MediaTek의 최신 APU 및 NeuroPilot AI 플랫폼을 사용하여 스마트폰, IoT, 차량, 스마트 홈 및 기타 엣지 컴퓨팅 장치에서 AI 애플리케이션 개발을 가속화하도록 설계된 완벽한 엣지 컴퓨팅 생태계를 구축하는 것을 목표로 합니다.

현재 대부분의 생성 AI 처리가 클라우드 컴퓨팅을 통해 이루어집니다. 하지만 MediaTek의 Llama 2 모델을 사용하면 생성적 AI 애플리케이션을 장치에서 직접 실행할 수 있습니다.

이를 통해 개발자와 사용자는 원활한 성능, 향상된 개인정보 보호, 보안 및 안정성 강화, 지연 시간 단축, 연결성이 거의 없거나 전혀 없는 지역에서도 작업 능력 향상, 운영 비용 절감 등 다양한 이점을 얻을 수 있습니다.

엣지 컴퓨팅 장치에서 생성적 AI 기술을 실제로 활용하려면 엣지 컴퓨팅 장치 제조업체는 고성능 저전력 AI 프로세서와 더 빠르고 안정적인 연결성을 채택하여 컴퓨팅 기능을 향상시켜야 합니다. 현재 MediaTek이 구동하는 모든 5G 모바일 칩에는 AI 노이즈 감소, AI 해상도 향상 등 다양한 생성형 AI 기능을 수행하도록 설계된 APU가 탑재되어 있습니다.

또한, 올해 말에 출시될 예정인 MediaTek의 차세대 플래그십 프로세서는 Llama 2를 실행하기 위한 최적화된 소프트웨어 스택과 Transformer 코어 가속 기능을 갖춘 업그레이드된 APU를 탑재하여 DRAM 접근 영역과 대역폭 사용량을 줄이고 LLM 및 AIGC 성능을 더욱 향상시킬 예정입니다. 이러한 발전으로 인해 디바이스 내 생성형 AI의 사용 사례를 빠르게 구축할 수 있게 되었습니다.

MediaTek은 Llama 2 기반 AI 애플리케이션이 올해 말에 출시될 예정인 차세대 플래그십 SoC가 장착된 스마트폰에서 사용 가능할 것으로 기대하고 있습니다.

[광고_2]
원천