GPT Pho bringt Vietnam auf die Welttechnologiekarte

[Anzeige_1]

Pho GPT steht für Pho – Generative Pre-trained Transformer und ist ein großes Sprachmodellprojekt speziell für Vietnamesisch, das vom VinAI-Engineering-Team, einem Mitglied der Vingroup Corporation, implementiert wird.

„Aufholen“ mit der Welttechnologie

Pho GPT verwendet Open-Source-Code anstelle von proprietärer Software wie ChatGPT von OpenAI. Dies bedeutet, dass der Quellcode von Pho GPT öffentlich und verfügbar ist und Benutzer durch benutzerdefinierte Anwendungen zur Entwicklung von Pho GPT beitragen können.

Laut der Einführung von VinAI verfügt Pho GPT über 7,5 Milliarden Parameter, die auf der Transformer-Dekodierungsplattform basieren. Dieses Modell wird von Grund auf mit modernsten Techniken wie Flash Attention und AliBi-Kontextlängenextrapolation trainiert.

Diese Techniken helfen Pho GPT nicht nur dabei, den Kontext besser zu verstehen, sondern verbessern auch die Fähigkeit der Anwendung, während der Verwendung auf natürliche Weise zu kommunizieren und zu interagieren. Dies macht das Modell zu einem vielseitigen und multitaskingfähigen Tool, das eine große Bandbreite an Sprachanforderungen der Benutzer erfüllen kann.

Herr Bui Hai Hung, Generaldirektor von VinAI.

Herr Bui Hai Hung, Generaldirektor von VinAI, sprach über die Bedeutung der Geburt von Pho GPT und sagte, das Ziel des Projekts sei die Entwicklung von ChatGPT ähnlichen Modellen für die vietnamesische Sprache und Kultur. Pho GPT kann vietnamesische Texte besser verstehen und schreiben als Sprachtechnologien der vorherigen Generation. Das Modell wird außerdem von Grund auf mit einem vietnamesischen Datensatz trainiert, unabhängig von allen anderen Modellen auf der Welt, wodurch die Beherrschung der fortschrittlichen Kerntechnologie für Vietnam sichergestellt wird.

Es ist erwähnenswert, dass Pho GPT ein Jahr später in Vietnam auftauchte, gerade als die Welt über die Geburt von Chat GPT sprach. Laut Herrn Bui Hai Hung ist VinAI der Pionier in Südostasien, der ein großes Sprachmodell mit Open-Source-Code auf den Markt bringt. Einige Wochen später wurde ein ähnliches Produkt in Singapur auf den Markt gebracht.

Verbesserung der vietnamesischen KI

Die Ergebnisse des Vergleichs der Pho GPT-7B5-Instruct-Version mit dem Closed-Source-ChatGPT (GPT-3.5-Turbo) und anderen Open-Source-Modellen zeigen, dass Pho GPT in den meisten Bewertungskategorien an zweiter Stelle steht, gleich nach ChatGPT.

Pho GPT weist viele Unterschiede zu anderen Sprachmodellen auf, insbesondere zu ChatGPT. Es ist darauf ausgelegt, den vietnamesischen Schreibstil auf natürliche Weise zu verstehen und zu schreiben und spiegelt den Kontext, die Grammatik, den Wortschatz und die Ausdrucksformen der Vietnamesen wider. Es kann mit Benutzern zu Themen im Zusammenhang mit der vietnamesischen Kultur, Geschichte, Geographie, Gesellschaft, Unterhaltung, Sport usw. interagieren.

Darüber hinaus ist Pho GPT Open Source und flexibel. Benutzer können benutzerdefinierte und einzigartige Anwendungen entwickeln, insbesondere solche, die ein hohes Maß an Sicherheit erfordern, ohne auf proprietäre Softwarequellen angewiesen zu sein.

Gleichzeitig liegt die Priorität von Pho GPT auch auf hoher Leistung und Kosteneinsparungen durch Training mit den neuesten Optimierungstechniken, die dazu beitragen, die Größe der Anwendung zu reduzieren und ihre Geschwindigkeit zu erhöhen. GPT Pho kann auch auf kleineren Computerplattformen ausgeführt werden, was Kosten senkt und Ressourcen spart.

Pho GPT wurde mit einem vietnamesischen Data Warehouse von bis zu 41 GB trainiert, darunter 1 GB Wikipedia-Text und eine 40 GB große Variante, die Duplikate aus dem Nachrichtendatensatz entfernt hat, und wurde mit der llm-foundry-Bibliothek von Mosaicml llm trainiert. Pho GPT kann Textfragmente gemäß Benutzeranforderungen generieren, beispielsweise Artikel, Gedichte, Lieder, Essays, Reden, Einleitungen usw. Pho GPT kann auch kreative, humorvolle Inhalte erstellen, beispielsweise Kurzgeschichten, Kommentare, Sprichwörter, Nachrichten, Tweets, Memes usw. Gleichzeitig führt es auch Dialoge mit Benutzern zu verschiedenen Themen wie aktuellen Ereignissen, Bildung, Gesundheit, Reisen, Küche, Sport, Unterhaltung usw. Darüber hinaus kann Pho GPT auch Benutzerfragen beantworten, Informationen, Ratschläge und Unterstützung bereitstellen und Fragen beantworten usw.

Darüber hinaus kann Pho GPT Texte oder Textarten unterschiedlicher Art wie offizielle, kommerzielle, akademische, literarische Dokumente usw. vom Vietnamesischen in andere Sprachen und umgekehrt übersetzen.

Ein weiteres herausragendes Merkmal ist, dass Pho GPT Textpassagen analysiert und verarbeitet, z. B. zusammenfasst, klassifiziert, beschriftet, Informationen extrahiert, Emotionen erkennt, Fehler erkennt, den Schreibstil verbessert usw.

Das Pho GPT-Entwicklungsteam erklärte, dass es das Modell in Zukunft weiter verbessern und das Projekt auf andere Sprachen, insbesondere im südostasiatischen Raum, ausweiten werde.

„Mit der Einführung von Pho GPT hat Vietnam erstmals die Möglichkeit, in diesem Bereich der Spitzentechnologie mit der Welt gleichzuziehen und ein umfassendes Sprachmodell mit Open-Source-Code speziell für Vietnamesen zu entwickeln, das für die vietnamesische Sprache optimiert und weltweit unabhängig ist. Darauf sind Vin AI und die Vietnamesen im Allgemeinen stolz“, fügte ein Vertreter von VinAI hinzu.

Tran Duy Dong, stellvertretender Minister für Planung und Investitionen, kommentierte das Potenzial und die Entwicklungsmöglichkeiten von Pho GPT in der kommenden Zeit wie folgt: „KI ist einer der Bereiche, in denen Vietnam großes Potenzial hat, sich stark zu entwickeln und bald weltweit aufzuschließen. Das Ministerium wird die KI-Community im Besonderen und die Wissenschafts- und Technologie-Community im Allgemeinen stets unterstützen und begleiten, um ein umfassendes und dynamisches Innovationsökosystem zu entwickeln, das zur Gesamtentwicklung des Landes beiträgt.“

[Anzeige_2]
Quelle