Durchführen von Inferenzen mit dem großen Sprachmodell Llama 2 unter Verwendung eines PowerBook G4 von 2005. Foto: MacRumors . |
Laut MacRumors sorgt ein Softwareentwickler namens Andrew Rossignol in der Tech-Community für Aufsehen, indem er den Prozess der Ausführung generativer KI-Aufgaben mit einem PowerBook G4 aus dem Jahr 2005 teilt.
Genauer gesagt wurde der von Rossignol verwendete Laptop 2005 auf den Markt gebracht und lief mit einem 1,5 GHz PowerPC G4-Prozessor und 1 GB RAM. Trotz einer derart veralteten Konfiguration war dieser Softwareentwickler immer noch in der Lage, mit Metas großem Sprachmodell Llama 2 Inferenzen auf der Maschine durchzuführen.
In dem Beitrag gab Rossignol bekannt, dass er zur Durchführung des Experiments auf das Open-Source-Projekt llama2.c zurückgegriffen und die Leistung mit einem PowerPC-Vektordienstprogramm namens AltiVec beschleunigt habe.
Unter dem Slogan „One more thing“ wurde 2001 das PowerBook G4 vorgestellt, ein Laptop-Modell aus Titan, auch bekannt als TiBook. Auch nach über 20 Jahren gilt die Designsprache des PowerBook G4 noch immer als modern und frisch und wird auch beim MacBook Pro 2021 beibehalten.
Rossignols Experiment beweist einmal mehr, dass KI-Training auch auf Geräten mit eingeschränkter Hardware möglich ist.
Quelle: https://znews.vn/chay-ai-tren-may-tinh-co-mat-truoc-thoi-iphone-post1540827.html
Kommentar (0)