MediaTek utilise la plateforme Llama 2 de Meta pour améliorer l'IA générative

SGGPO 25/08/2023 10:37

MediaTek, une société mondiale de semi-conducteurs, a annoncé qu'elle travaillait en étroite collaboration avec Llama 2 de Meta, le modèle de langage open source de nouvelle génération (LLM) de la société.

MediaTek vise à créer un écosystème informatique complet

En utilisant le LLM de Meta ainsi que les derniers APU et la plate-forme d'IA NeuroPilot de MediaTek, MediaTek vise à créer un écosystème informatique de pointe complet conçu pour accélérer le développement d'applications d'IA sur les smartphones, l'IoT, les véhicules, les maisons intelligentes et d'autres appareils informatiques de pointe.

Actuellement, la plupart des traitements d’IA générative sont effectués via le cloud computing. Cependant, l'utilisation des modèles Llama 2 de MediaTek permettra aux applications d'IA générative de s'exécuter directement sur l'appareil.

Cela offre un certain nombre d’avantages aux développeurs et aux utilisateurs, notamment des performances fluides, une confidentialité améliorée, une sécurité et une fiabilité accrues, une latence plus faible, une capacité accrue à travailler dans des zones avec peu ou pas de connectivité et des coûts d’exploitation réduits.

Pour tirer pleinement parti de la technologie d’IA générative sur les appareils informatiques de pointe, les fabricants d’appareils informatiques de pointe devront adopter des processeurs d’IA haut de gamme et à faible consommation d’énergie, ainsi qu’une connectivité plus rapide et plus fiable pour améliorer les capacités de calcul. Aujourd'hui, chaque puce mobile 5G alimentée par MediaTek est équipée d'APU conçus pour exécuter une variété de fonctionnalités d'IA génératives, telles que la réduction du bruit de l'IA, l'amélioration de la résolution de l'IA, etc.

De plus, le processeur phare de nouvelle génération de MediaTek, dont le lancement est prévu plus tard cette année, comportera une pile logicielle optimisée pour exécuter Llama 2, ainsi qu'un APU amélioré avec accélération du cœur Transformer, minimisant la zone d'accès DRAM et l'utilisation de la bande passante, améliorant encore les performances LLM et AIGC. Ces avancées facilitent la création rapide de cas d’utilisation pour l’IA générative sur appareil.

MediaTek s'attend à ce que les applications d'IA basées sur Llama 2 soient disponibles sur les smartphones équipés de son SoC phare de nouvelle génération, qui devrait arriver sur le marché plus tard cette année.

Source: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html