En una entrevista con The Guardian , el autor del libro “Sapiens: Una breve historia de la humanidad” dijo que, a diferencia de las armas nucleares, los problemas que traen los modelos de IA no se limitan a un gran escenario.
Con la IA, hay innumerables escenarios peligrosos, cada uno de los cuales tiene el potencial de combinarse y representar una amenaza existencial para la civilización humana.
La declaración multilateral en la Cumbre Global sobre Seguridad de IA en Bletchley Park, Reino Unido, fue un “paso adelante muy importante” porque los principales gobiernos se unieron para expresar sus preocupaciones sobre la tecnología y hacer algo al respecto, dijo Harari.
“Sin cooperación global, será extremadamente difícil, si no imposible, contener el potencial más peligroso de la IA”, afirmó.
La cumbre concluyó con un acuerdo entre 10 gobiernos y las principales empresas de IA, incluido el desarrollador de ChatGPT, OpenAI, y Google, para colaborar en la prueba de modelos de IA avanzados antes y después de su lanzamiento.
Los autores de Sapiens argumentan que uno de los problemas que supone probar la seguridad de los modelos es tener que prever todos los problemas que podrían causar.
La IA es diferente de todas las tecnologías anteriores en la historia de la humanidad porque es la primera tecnología que puede tomar decisiones, generar nuevas ideas y aprender y desarrollarse por sí sola.
Por su propia definición, es extremadamente difícil para los humanos –incluso para el “padre” de la IA– predecir todos los peligros y problemas potenciales.
Los gobiernos han planteado la amenaza de que los sistemas de IA ayuden a crear armas biológicas, pero hay otros escenarios que podrían considerarse.
El Sr. Harari señaló que las finanzas son un campo ideal para los sistemas de IA porque los datos y la IA por sí solos pueden crear crisis graves.
“¿Qué pasaría si a la IA no solo se le otorgara un mayor control sobre el sistema financiero mundial, sino que también comenzara a crear nuevos dispositivos financieros que solo la IA pudiera comprender y los humanos no?”, preguntó Harari.
La crisis financiera de 2007-2008 fue causada por instrumentos de deuda como las obligaciones de deuda garantizadas (CDO), que eran poco comprendidas y, por lo tanto, no estaban totalmente reguladas, añadió el historiador.
“La IA tiene el potencial de crear dispositivos financieros más complejos que los CDO. Imaginen una situación en la que tenemos un sistema financiero que ningún ser humano puede comprender y, por lo tanto, no puede regular”, dijo. “Y luego se produce una crisis financiera donde nadie entiende qué está pasando”.
El mes pasado, el gobierno del Reino Unido expresó su preocupación por un modelo avanzado de inteligencia artificial que podría representar una amenaza existencial al controlar y manipular los sistemas financieros.
Pero Harari cree que una crisis financiera generada por IA no destruiría la civilización humana, “al menos no directamente”.
Podría, indirectamente, causar algún tipo de guerra o conflicto. Es un riesgo catastrófico, económica, social y políticamente, añadió.
El autor israelí, que apoya los pedidos de detener el desarrollo de IA avanzada durante seis meses y responsabilizar a las empresas de IA por el daño que causan sus productos, dijo que el enfoque no debería estar en regulaciones y leyes específicas, sino en organizaciones reguladoras con conocimiento de la tecnología que puedan reaccionar rápidamente cuando surjan nuevos avances.
“Necesitamos crear lo antes posible instituciones reguladoras sólidas, capaces de identificar y responder a los peligros a medida que surgen, partiendo del principio de que no podemos anticipar todos los peligros y problemas”.
“Este debería ser el esfuerzo principal, no redactar una regulación muy larga y complicada que, cuando sea aprobada por el Congreso, puede estar obsoleta”, dijo.
Los institutos de investigación sobre seguridad de la IA deberían contratar expertos que entiendan el impacto potencial de la IA en el mundo financiero, afirmó Harari.
El mes pasado, el Ministro de Hacienda del Reino Unido, Rishi Sunak, anunció la creación de un instituto de seguridad de IA en el Reino Unido. Días después, la Casa Blanca anunció planes para crear una agencia similar. Se espera que ambos desempeñen un papel clave en la prueba de modelos avanzados de IA.
Al hablar en la cumbre, el Sr. Sunak dijo que Gran Bretaña necesitaba comprender las capacidades de los modelos avanzados de inteligencia artificial antes de introducir leyes para abordarlos.
(Según The Guardian)
La aplicación de inteligencia artificial GraphCast predice el pronóstico meteorológico de 10 días más preciso del mundo.
El laboratorio DeepMind de Google en el Reino Unido ha desarrollado el sistema GraphCast, una aplicación de inteligencia artificial (IA) capaz de proporcionar el pronóstico meteorológico de 10 días más preciso del mundo.
La sinergia de la IA y la computación en la nube
La combinación de inteligencia artificial (IA) y computación en la nube es una tendencia imparable que está transformando las industrias globales.
[anuncio_2]
Fuente
Kommentar (0)