La ejecución de IA en ordenadores es anterior al iPhone

Realizar inferencias con el modelo de lenguaje grande Llama 2 utilizando un PowerBook G4 2005. Foto: MacRumors .

Según MacRumors , un ingeniero de software llamado Andrew Rossignol está causando revuelo en la comunidad tecnológica al compartir el proceso de ejecución de tareas de IA generativa utilizando un PowerBook G4 2005.

En concreto, el portátil que utilizó Rossignol salió al mercado en 2005, con un procesador PowerPC G4 de 1,5 GHz y 1 GB de RAM. Con una configuración tan obsoleta, este ingeniero de software aún pudo realizar inferencias con el gran modelo de lenguaje Llama 2 de Meta en la máquina.

En la publicación, Rossignol reveló que para llevar a cabo el experimento, recurrió al proyecto de código abierto llama2.c y aceleró el rendimiento con una utilidad vectorial PowerPC llamada AltiVec.

En 2001, el dispositivo presentado bajo el lema “One more thing” fue el PowerBook G4, un modelo de portátil con material de titanio, también conocido como TiBook. Después de más de 20 años, el lenguaje de diseño del PowerBook G4 todavía se considera moderno y fresco, mantenido en el MacBook Pro 2021.

El experimento de Rossignol demuestra una vez más que el entrenamiento de IA todavía puede realizarse en dispositivos con hardware limitado.

Fuente: https://znews.vn/chay-ai-tren-may-tinh-co-mat-truoc-thoi-iphone-post1540827.html