MediaTek nutzt Metas Llama 2-Plattform zur Verbesserung generativer KI

SGGPO 25.08.2023 10:37 Uhr

MediaTek, ein globales Halbleiterunternehmen, hat angekündigt, dass es eng mit Meta’s Llama 2 zusammenarbeitet, dem Open-Source-Large Language Model (LLM) der nächsten Generation des Unternehmens.

MediaTek will ein komplettes Edge-Computing-Ökosystem aufbauen

Mithilfe des LLM von Meta sowie der neuesten APUs und der NeuroPilot-KI-Plattform von MediaTek möchte MediaTek ein komplettes Edge-Computing-Ökosystem aufbauen, das die Entwicklung von KI-Anwendungen für Smartphones, IoT, Fahrzeuge, Smart Homes und andere Edge-Computing-Geräte beschleunigen soll.

Derzeit erfolgt die Verarbeitung generativer KI größtenteils über Cloud Computing. Durch die Verwendung der Llama 2-Modelle von MediaTek können jedoch generative KI-Anwendungen direkt auf dem Gerät ausgeführt werden.

Dies bietet Entwicklern und Benutzern zahlreiche Vorteile, darunter reibungslose Leistung, verbesserten Datenschutz, mehr Sicherheit und Zuverlässigkeit, geringere Latenz, verbesserte Möglichkeit, in Bereichen mit geringer oder keiner Konnektivität zu arbeiten, und niedrigere Betriebskosten.

Um die generative KI-Technologie auf Edge-Computing-Geräten wirklich nutzen zu können, müssen die Hersteller von Edge-Computing-Geräten High-End-KI-Prozessoren mit geringem Stromverbrauch sowie eine schnellere und zuverlässigere Konnektivität einsetzen, um die Rechenleistung zu verbessern. Jeder 5G-Mobilchip von MediaTek ist heute mit APUs ausgestattet, die für die Ausführung einer Vielzahl generativer KI-Funktionen wie KI-Rauschunterdrückung, KI-Auflösungsverbesserung usw. ausgelegt sind.

Darüber hinaus wird MediaTeks Flaggschiff-Prozessor der nächsten Generation, dessen Einführung noch in diesem Jahr erwartet wird, über einen optimierten Software-Stack zum Ausführen von Llama 2 sowie eine verbesserte APU mit Transformer-Core-Beschleunigung verfügen, wodurch der DRAM-Zugriffsbereich und die Bandbreitennutzung minimiert und die LLM- und AIGC-Leistung weiter verbessert wird. Diese Fortschritte erleichtern die schnelle Entwicklung von Anwendungsfällen für generative KI auf Geräten.

MediaTek geht davon aus, dass KI-Anwendungen auf Basis von Llama 2 auf Smartphones verfügbar sein werden, die mit seinem Flaggschiff-SoC der nächsten Generation ausgestattet sind und voraussichtlich noch in diesem Jahr auf den Markt kommen werden.

Quelle: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html