Als Nguyen Hoang Quan und seine Kollegen bei VILM die USA verließen, um in ihre Heimat zurückzukehren, entwickelten sie ein kostenloses künstliches Intelligenzsystem (KI) für Vietnamesen zur Verwendung im Kundendienst; es wird jeden Monat hunderttausendfach heruntergeladen.
Im Juni 2023 gründeten der 25-jährige Nguyen Hoang Quan und seine Kollegen Pham Nhut Huy, 23, ein Ingenieur für künstliche Intelligenz bei ZaloAI, und Dao Minh Dung, 24, ein Doktorand an der University of Cork, Irland, die gemeinnützige Organisation VILM mit dem Wunsch, den Vietnamesen zu helfen, die fortschrittlichste KI-Technologie optimal zu erleben.
Nach fast sechs Monaten Forschung und Anwendung entwickelte das Team erfolgreich drei kostenlose KI-Modelle, darunter OpenHermes, VinaLlama und Vistral. Dies sind die grundlegenden Studien für die Entwicklung von KI-Systemen, die die Absichten der Benutzer verstehen und entsprechend handeln können (Large Action Model). Anwendung finden diese Modelle in Technologiefeldern wie der Maschinensteuerung, bei Robotern, die behinderten Menschen ohne Pflegekräfte besser helfen, Programmierern bei der Behebung von Fehlern helfen oder bei virtuellen Assistenten, die sich kostenlos um Kunden kümmern oder Fragen beantworten.
OpenHermes erreicht 85.000 Downloads pro Monat und landet unter den Top 10 der am häufigsten heruntergeladenen Sprachmodelle auf HuggingFace (der weltweit größten Site zum Teilen von KI-Modellen). Screenshot
Das OpenHermes-Modell ist ein großes Sprachmodell, das wie ChatGPT Englisch unterstützt, jedoch mit besseren Wertungen. Sie ermöglichen es Benutzern, Modelle auf ihre PCs herunterzuladen und zu verwenden, ohne dass ein Internetzugang erforderlich ist. Bemerkenswerterweise beträgt das Trainingsdatenvolumen von OpenHermes nur 1/100 des Trainingsdatenvolumens von ChatGPT von OpenAI. Derzeit wird die App monatlich über 50.000 Mal heruntergeladen. OpenHermes-2.5 und OpenHermes-2.5-Vision werden von mehr als 40 Startups im Silicon Valley (USA) eingesetzt,
VinaLlama und Vistral sind zwei Sprachmodelle, die auf den vietnamesischen Markt ausgerichtet sind und darauf abzielen, einheimischen Nutzern einen einfacheren Zugang zu der fortschrittlichsten KI-Technologie zu ermöglichen.
Hoang Quan studierte 7 Jahre in den USA und arbeitete bei OpenAI als Forschungsingenieur für das künstliche Intelligenzmodell ChatGPT, obwohl er keinen Universitätsabschluss hatte. Im Jahr 2022 arbeitete er als Dateningenieur für Microsofts Bing Chat-Produkt und OpenAI mit einem Einkommen von Tausenden von Dollar. Im Jahr 2023 sah sich Quan mit einer Entlassungswelle in der US-Technologiebranche konfrontiert und erkannte, dass der Arbeitsmarkt für Absolventen sehr düster aussah. Als er jedoch die Chancen in Vietnam sah, beschloss er, in seine Heimat zurückzukehren.
Nguyen Hoang Quan. Foto: NVCC
Bei VILM ist Quan Chefingenieur und hauptsächlich für die Erforschung von Datenverbesserungstechniken sowie KI-Training verantwortlich. Während Nhat Huy beim Training von KI die Rolle der technischen Forschung übernimmt, schlägt Minh Dung neue Methoden in der theoretischen Forschung vor.
Quan erklärte, dass aktuelle große Sprachmodelle wie ChatGPT (Large Language Model) nur Textausgaben liefern können, während Menschen viele Möglichkeiten haben, zu kommunizieren und Wissen zu erwerben. Deshalb ist es das Ziel des Teams, ein System zu schaffen, das flexibel zwischen verschiedenen Eingabe- und Ausgabetypen arbeiten kann (Datentypen wie Sprache, Bilder, Videos, Audio empfangen und ausgeben kann) und nicht nur auf der Sprachebene stehen bleibt.
Um das Ziel der Erstellung großer Aktionsmodelle zu erreichen, musste das Team zwei Probleme überwinden: Sicherheit und Geschwindigkeit. Aktuelle KI-Anwendungen verwenden meist Benutzerdaten und senden sie zur Verarbeitung an die Server von Unternehmen wie OpenAI, was Sicherheitsbedenken aufwirft. Das Team konzentrierte sich auf die Erstellung von KI-Modellen, die klein und schnell genug waren, um direkt auf Mobilgeräten verarbeitet zu werden, und gleichzeitig Leistung und Geschwindigkeit ausbalancierten, um das Benutzererlebnis nicht zu beeinträchtigen.
Das Experimentalteam nutzte von der KI generierte Daten, um die KI erneut lernen zu lassen, anstatt den Weg zu gehen, Daten aus realen Quellen zu verwenden. Anfangs hatten sie Schwierigkeiten, Rechenressourcen (Computer zum Trainieren der KI) zu finden, doch später konnten sie große Unternehmen und Labore auf der ganzen Welt davon überzeugen, sie zu sponsern.
Quan sagte, dass die Herstellung dieser Produkte den Menschen vor allem dabei helfe, schnell und in einer Qualität auf KI-Anwendungen zuzugreifen, die der von ChatGPT oder Bing Chat nicht nachstehe, und dass sie die Erforschung und Erstellung von KI-Modellen in der Zukunft einfacher mache. Anstatt ChatGPT zu verwenden, das auf die vietnamesische Sprache und Kultur beschränkt ist, können vietnamesische Unternehmen VinaLlama auf Vietnamesisch herunterladen.
Das Sprachmodell VinaLlama bewältigt problemlos ein mathematisches Problem auf Vietnamesisch. Auf dem Bild sehen Sie eine Demo des Produkts VinaLlama zum Lösen mathematischer Probleme. Screenshot.
Herr Dang Hai Loc, Gründer der KI-Chatbot-Entwicklungsplattform Mindmaid, sagte, aus der Perspektive eines KI-Anwendungsentwicklers seien Kosten und Datenschutz die beiden Themen, die Unternehmen bei der Bereitstellung von KI-Anwendungen am meisten Sorgen bereiten. Die zufriedenstellendste Lösung für dieses Problem sind Open-Source-LLM-Modelle, die auf der Unternehmensinfrastruktur ausgeführt werden können und mit den eigenen Daten des Unternehmens lernen (Feinabstimmung vornehmen) können. Daher sind vietnamesische Open-Source-LLM-Modelle wie VinaLlama, Vistral usw. für die Förderung von KI-Anwendungen in Vietnam sehr wertvoll.
„Diese Open-Source-Modelle ermöglichen es außerdem mehr Programmierern und Technologiebegeisterten, mit nur einem MacBook in den Bereich des KI-Ingenieurs einzusteigen, anstatt in eine teure GPU-Infrastruktur (Grafikkarte) investieren zu müssen. Dies wird auch die Zahl der KI-Ingenieure in Vietnam steigern, eine Rolle, die in naher Zukunft stark nachgefragt sein wird“, sagte Herr Loc.
Laut Quan verfügen die Vietnamesen über sehr gute wissenschaftliche Grundlagen, sind gut in KI und ChatGPT verfügt auch über Personal, das an der Forschung teilnimmt. Allerdings fällt es ihnen schwerer, mit der sich ständig ändernden Technologiewelle schnell Schritt zu halten. „Was die Vietnamesen brauchen, ist Erfahrung in der Herstellung von Produkten für Endverbraucher, um die Probleme, auf die sie stoßen, wirklich zu verstehen und ihre Forschung richtig auszurichten“, sagte Quan über den Grund für die Erforschung kostenloser KI-Modelle, um die Vietnamesen im Technologiebereich zu unterstützen. Er sagte, er habe mit vielen internationalen Gruppen zusammengearbeitet und sei jederzeit bereit, mit Forschungsgruppen in Vietnam zusammenzuarbeiten.
Nhu Quynh
[Anzeige_2]
Quellenlink
Kommentar (0)