MediaTek, Meta의 Llama 2 플랫폼을 사용하여 생성 AI 강화

[광고1]

SGGPO 08/25/2023 10:37

글로벌 반도체 회사인 미디어텍(MediaTek)은 자사의 차세대 오픈소스 대규모 언어 모델(LLM)인 Meta의 Llama 2와 긴밀히 협력하고 있다고 발표했습니다.

MediaTek, 완벽한 엣지 컴퓨팅 생태계 구축을 목표로

MediaTek은 Meta의 LLM과 MediaTek의 최신 APU 및 NeuroPilot AI 플랫폼을 활용하여 스마트폰, IoT, 차량, 스마트 홈 및 기타 엣지 컴퓨팅 장치 전반에 걸쳐 AI 애플리케이션 개발을 가속화하도록 설계된 완벽한 엣지 컴퓨팅 생태계를 구축하는 것을 목표로 합니다.

현재 대부분의 생성 AI 처리가 클라우드 컴퓨팅을 통해 이루어집니다. 하지만 MediaTek의 Llama 2 모델을 사용하면 생성형 AI 애플리케이션을 장치에서 직접 실행할 수 있습니다.

이를 통해 개발자와 사용자는 원활한 성능, 향상된 개인 정보 보호, 강화된 보안 및 안정성, 낮아진 대기 시간, 연결성이 약하거나 전혀 없는 지역에서도 작업 가능, 운영 비용 절감 등 다양한 이점을 얻을 수 있습니다.

엣지 컴퓨팅 장치에서 생성적 AI 기술을 진정으로 활용하려면 엣지 컴퓨팅 장치 제조업체가 고성능, 저전력 AI 프로세서와 더 빠르고 안정적인 연결 기능을 채택하여 컴퓨팅 기능을 향상해야 합니다. 현재 MediaTek이 탑재된 모든 5G 모바일 칩에는 AI 노이즈 감소, AI 해상도 향상 등 다양한 생성형 AI 기능을 수행하도록 설계된 APU가 장착되어 있습니다.

또한, 올해 말에 출시될 예정인 MediaTek의 차세대 플래그십 프로세서는 Llama 2를 실행하기 위한 최적화된 소프트웨어 스택과 Transformer 코어 가속을 탑재한 업그레이드된 APU를 갖추고 있어 DRAM 접근 영역과 대역폭 사용량을 줄이고 LLM 및 AIGC 성능을 더욱 향상시킬 예정입니다. 이러한 발전을 통해 디바이스 내 생성형 AI의 사용 사례를 빠르게 구축할 수 있게 되었습니다.

MediaTek은 Llama 2 기반 AI 애플리케이션이 올해 말에 출시될 예정인 차세대 플래그십 SoC가 장착된 스마트폰에서 사용 가능할 것으로 기대하고 있습니다.

[광고2]
원천