GenZ-Ingenieure entwickeln kostenlose künstliche Intelligenz-Anwendung für Vietnamesen

Als Nguyen Hoang Quan und seine Kollegen bei VILM die USA verließen, um in ihre Heimat zurückzukehren, entwickelten sie ein kostenloses System künstlicher Intelligenz (KI) für Vietnamesen zur Verwendung im Kundendienstbereich, das jeden Monat über Hunderttausende Mal heruntergeladen wird.

Im Juni 2023 gründeten der 25-jährige Nguyen Hoang Quan und seine Kollegen Pham Nhut Huy (23), ein Ingenieur für künstliche Intelligenz bei ZaloAI, und Dao Minh Dung (24), ein Doktorand an der Universität Cork in Irland, die gemeinnützige Organisation VILM mit dem Wunsch, den Vietnamesen dabei zu helfen, die fortschrittlichste KI-Technologie optimal zu erleben.

Nach fast sechs Monaten Forschung und Anwendung entwickelte das Team erfolgreich drei kostenlose KI-Modelle, darunter OpenHermes, VinaLlama und Vistral. Dies sind die grundlegenden Studien für die Entwicklung von KI-Systemen, die die Absichten der Benutzer verstehen und darauf reagieren können (Large Action Model). Diese Modelle finden Anwendung in Technologiefeldern wie der Maschinensteuerung, Robotern, die behinderten Menschen ohne Pflegekräfte besser helfen, Programmierern bei der Behebung von Fehlern helfen oder virtuellen Assistenten, die sich kostenlos um Kunden kümmern oder Fragen beantworten.

OpenHermes erreicht 85.000 Downloads pro Monat und landet damit unter den Top 10 der am häufigsten heruntergeladenen Sprachmodelle auf HuggingFace (der weltweit größten Site zum Teilen von KI-Modellen). Screenshot

Das OpenHermes-Modell ist ein großes Sprachmodell, das Englisch wie ChatGPT unterstützt, jedoch mit besseren Ergebnissen. Sie ermöglichen es Benutzern, Modelle auf ihren PC herunterzuladen und zu verwenden, ohne dass eine Internetverbindung erforderlich ist. Bemerkenswerterweise beträgt das Trainingsdatenvolumen von OpenHermes nur 1/100 des Trainingsdatenvolumens von ChatGPT von OpenAI. Die App wird derzeit mehr als 50.000 Mal pro Monat heruntergeladen. OpenHermes-2.5 und OpenHermes-2.5-Vision werden von mehr als 40 Startups im Silicon Valley (USA) eingesetzt,

VinaLlama und Vistral sind zwei Sprachmodelle, die sich auf den vietnamesischen Markt konzentrieren und darauf abzielen, inländischen Benutzern den Zugang zu modernster KI-Technologie zu erleichtern.

Hoang Quan studierte sieben Jahre in den USA und arbeitete bei OpenAI als Forschungsingenieur für das künstliche Intelligenzmodell ChatGPT, obwohl er keinen Universitätsabschluss hatte. Im Jahr 2022 arbeitete er als Dateningenieur für Microsofts Bing Chat-Produkt und OpenAI und verdiente dabei Tausende von Dollar. Im Jahr 2023 wurde Quan angesichts einer Entlassungswelle in der US-Technologiebranche klar, dass der Arbeitsmarkt für Hochschulabsolventen sehr düster war. Doch als er die Möglichkeiten in Vietnam sah, beschloss er, in seine Heimat zurückzukehren.

Nguyen Hoang Quan. Foto: NVCC

Bei VILM ist Quan Chefingenieur und hauptsächlich für die Erforschung von Datenverbesserungstechniken sowie KI-Training verantwortlich. Während Nhat Huy beim Training von KI die Rolle der technischen Forschung übernimmt, schlägt Minh Dung neue Methoden in der theoretischen Forschung vor.

Quan erklärte, dass aktuelle große Sprachmodelle wie ChatGPT (Large Language Model) nur Textausgaben liefern können, während Menschen viele Möglichkeiten haben, zu kommunizieren und Wissen zu erwerben. Aus diesem Grund möchte das Team ein System schaffen, das flexibel zwischen verschiedenen Eingabe- und Ausgabetypen arbeiten kann (Datentypen wie Sprache, Bilder, Videos, Audio empfangen und ausgeben kann) und nicht nur auf der Sprachebene stehen bleibt.

Um das Ziel der Erstellung großer Aktionsmodelle zu erreichen, musste das Team zwei Probleme überwinden: Sicherheit und Geschwindigkeit. Aktuelle KI-Anwendungen verwenden meist Benutzerdaten und senden sie zur Verarbeitung an die Server von Unternehmen wie OpenAI, was Sicherheitsbedenken aufwirft. Das Team konzentrierte sich auf die Erstellung von KI-Modellen, die klein und schnell genug waren, um direkt auf Mobilgeräten verarbeitet zu werden, und gleichzeitig auf ein ausgewogenes Verhältnis zwischen Leistung und Geschwindigkeit achteten, um das Benutzererlebnis nicht zu beeinträchtigen.

Das Experimentalteam nutzte von der KI generierte Daten, um die KI selbst lernen zu lassen, anstatt den Weg zu gehen, Daten aus realen Quellen zu verwenden. Anfangs hatten sie Schwierigkeiten, Rechenressourcen (Computer zum Trainieren der KI) zu finden, konnten aber später große Unternehmen und Labore auf der ganzen Welt davon überzeugen, sie zu sponsern.

Quan sagte, dass die Herstellung dieser Produkte den Menschen vor allem dabei helfe, schnell und in einer Qualität auf KI-Anwendungen zuzugreifen, die ChatGPT oder Bing Chat in nichts nachstehe, und dass sie die Erforschung und Erstellung von KI-Modellen in der Zukunft einfacher mache. Anstatt ChatGPT zu verwenden, das auf die vietnamesische Sprache und Kultur beschränkt ist, können vietnamesische Unternehmen VinaLlama auf Vietnamesisch herunterladen.

Das Sprachmodell VinaLlama bewältigt problemlos ein mathematisches Problem auf Vietnamesisch. Auf dem Bild sehen Sie eine Demo des VinaLlama-Produkts zum Lösen mathematischer Probleme. Screenshot.

Herr Dang Hai Loc, Gründer der KI-Chatbot-Entwicklungsplattform Mindmaid, sagte, er habe aus der Perspektive eines KI-Anwendungsentwicklers erkannt, dass Kosten und Datenschutz die beiden Probleme seien, die Unternehmen bei der Bereitstellung von KI-Anwendungen am meisten Sorgen bereiten. Die zufriedenstellendste Lösung für dieses Problem sind Open-Source-LLM-Modelle, die auf der Unternehmensinfrastruktur ausgeführt werden können und mit den eigenen Daten des Unternehmens lernen (Feinabstimmungen vornehmen) können. Daher sind vietnamesische Open-Source-LLM-Modelle wie VinaLlama, Vistral usw. für die Förderung von KI-Anwendungen in Vietnam sehr wertvoll.

„Diese Open-Source-Modelle ermöglichen es zudem mehr Programmierern und Technologiebegeisterten, mit nur einem MacBook in den Bereich der KI-Ingenieure einzusteigen, anstatt in eine teure GPU-Infrastruktur (Grafikkarte) investieren zu müssen. Dies wird auch die Zahl der KI-Ingenieure in Vietnam steigern, eine Position, die in naher Zukunft stark nachgefragt sein wird“, sagte Herr Loc.

Laut Quan verfügen die Vietnamesen über sehr gute wissenschaftliche Grundlagen, sind gut in KI und ChatGPT verfügt auch über an der Forschung beteiligtes Personal. Allerdings fällt es ihnen schwerer, mit der sich ständig verändernden Technologiewelle schnell Schritt zu halten. „Was die Vietnamesen brauchen, ist Erfahrung in der Herstellung von Produkten für Endverbraucher, um die Probleme, auf die sie stoßen, wirklich zu verstehen und ihre Forschung richtig auszurichten“, sagte Quan über den Grund für die Erforschung kostenloser KI-Modelle, um die Vietnamesen im Technologiebereich zu unterstützen. Er sagte, er habe mit vielen internationalen Gruppen zusammengearbeitet und sei jederzeit bereit, mit Forschungsgruppen in Vietnam zusammenzuarbeiten.

Nhu Quynh

Quellenlink: https://vnexpress.net/nhom-ky-su-genz-lam-ung-dung-tri-tue-nhan-tao-mien-phi-cho-nguoi-viet-4708838.html