Cómo Apple incorpora inteligencia artificial sintética a los iPhones más antiguos

Según Android Authority , el documento de investigación de Apple detalla una solución para ejecutar modelos de lenguaje grandes (LLM) en dispositivos con RAM limitada. El documento revela cómo la empresa puede almacenar “parámetros del modelo” y cargar partes de ellos en la RAM del dispositivo cuando sea necesario en lugar de cargar el modelo completo en la RAM.

Apple busca ayudar a los iPhones más antiguos con menos RAM a ejecutar IA general

El documento afirma que este método permite ejecutar modelos que requieren el doble de RAM que puede tener un iPhone y al mismo tiempo garantizar velocidades de inferencia de 4-5x y de 20-25x en comparación con los métodos de carga simples en la CPU y la GPU respectivamente.

La implementación de IA sintética en dispositivos con más RAM será beneficiosa ya que proporciona velocidades de lectura y escritura más rápidas. La velocidad es importante para la IA en el dispositivo, ya que permite tiempos de inferencia mucho más rápidos, ya que los usuarios no necesariamente tienen que esperar decenas de segundos (o más) para obtener una respuesta o un resultado final. Todo esto significa un asistente de IA en el dispositivo que puede funcionar a velocidades de conversación, generar imágenes/texto mucho más rápido, resumir artículos más rápido... Pero la solución de Apple significa que los usuarios no necesitan necesariamente mucha RAM para acelerar la capacidad de respuesta de las tareas de IA en el dispositivo.

El enfoque de Apple podría permitir que los iPhones antiguos y nuevos ofrezcan funciones de inteligencia artificial sintética directamente en sus dispositivos. Esto es importante porque los iPhones de Apple generalmente ofrecen menos RAM que los teléfonos Android de gama alta. Por ejemplo, la serie iPhone 11 solo ofrece 4 GB de RAM, mientras que incluso el iPhone 15 normal solo tiene 6 GB de RAM.

Apple no es la única compañía de telefonía móvil que intenta reducir LLM. Los últimos chips insignia de Qualcomm y MediaTek admiten la precisión INT4 para reducir la escala de estos modelos. De cualquier manera, las empresas están tratando de encontrar nuevas soluciones para reducir los requisitos del sistema para la IA en el dispositivo, permitiendo que incluso los teléfonos de gama baja ofrezcan la función.

Enlace de origen: https://thanhnien.vn/cach-apple-dua-ai-tong-hop-vao-iphone-doi-cu-185231222160500661.htm