El destacado científico informático Yoshua Bengio advierte que si la IA se sale de control, "la humanidad podría desaparecer en 10 años".
Los científicos se preocupan por el riesgo de perder el control de la IA - Ilustración: ChatGPT
El 7 de febrero, un destacado científico informático advirtió sobre la posibilidad de que los humanos "pierdan el control" sobre los sistemas de inteligencia artificial (IA) en el futuro cuando estos productos artificiales desarrollen una "voluntad de sobrevivir".
En su intervención en la Cumbre de Acción sobre IA que se celebra en París, el científico informático Yoshua Bengio pidió una regulación internacional más estricta y una investigación más amplia sobre la seguridad de la IA, que actualmente representa solo una pequeña fracción de las principales inversiones que se realizan en ese campo.
La aparición del modelo de inteligencia artificial de alto rendimiento y bajo costo DeepSeek el mes pasado ha acelerado la carrera hacia la seguridad, según el ganador del prestigioso Premio Turing 2018 en ciencias de la computación. El Sr. Yoshua Bengio advirtió que si perdemos el control de la IA, "la humanidad podría desaparecer en 10 años".
También pidió liderazgo gubernamental en la regulación de la IA. El llamado se hizo en el contexto de que el principal país en inteligencia artificial del mundo, Estados Unidos, ha tomado muchas medidas para "desatar" el desarrollo de esta tecnología bajo el nuevo presidente Donald Trump.
Actualmente, el Informe Internacional sobre Seguridad de la IA presentado por el Sr. Yoshua Bengio en la conferencia también señala riesgos bien conocidos como el uso de IA para crear contenido falso o engañoso en plataformas en línea, mientras que constantemente surgen riesgos adicionales, como ataques biológicos o ciberataques.
Con contribuciones de alrededor de 100 expertos de 30 países, las Naciones Unidas, la Unión Europea y la Organización para la Cooperación y el Desarrollo Económicos (OCDE), este es el primer informe sobre seguridad internacional de la IA, realizado desde la cumbre de seguridad de la IA en el Reino Unido en noviembre de 2023.
La UE se enfrenta al difícil problema de la gestión de la IAFuente: https://tuoitre.vn/canh-bao-ai-co-the-phat-trien-y-chi-sinh-ton-vuot-kiem-soat-cua-con-nguoi-20250207104202015.htm
Kommentar (0)