Vistas millones de veces en plataformas en línea, estas imágenes son imágenes deepfake creadas mediante inteligencia artificial. Si miras con atención, puedes ver pistas reveladoras como dedos extrañamente curvados u ojos que brillan con una luz antinatural.
Sin embargo, la indignación que han generado estas imágenes deepfake es real.
Las fotografías de la guerra entre Israel y Hamás ilustran de forma vívida y dolorosa los peligros de la IA como herramienta de propaganda, utilizada para crear imágenes realistas.
Desde que comenzaron los combates el mes pasado, se han utilizado fotografías manipuladas digitalmente que circulan en las redes sociales para realizar afirmaciones falsas sobre la responsabilidad por las víctimas o para engañar a la gente sobre atrocidades que nunca ocurrieron.
Un palestino recoge sus pertenencias entre los escombros en Gaza. Foto AP
Los avances tecnológicos se producen cada vez con mayor frecuencia y con poca supervisión. Esto deja claro el riesgo de que la IA se convierta en otra forma de arma y ofrece una visión anticipada de lo que sucederá en futuros conflictos, elecciones y otros eventos importantes.
“Las cosas van a empeorar mucho antes de mejorar”, dijo Jean-Claude Goldenstein, director ejecutivo de CREOpoint, una empresa de tecnología con sede en San Francisco y París que utiliza inteligencia artificial para evaluar la validez de las quejas en línea.
Su empresa ha compilado una base de datos de las imágenes deepfake más virales surgidas en Gaza. “Imágenes, vídeo y audio: con la IA creativa, este será un paso adelante como nunca antes se ha visto”, afirmó.
Imran Ahmed, director ejecutivo del Centro para Contrarrestar el Odio Digital, una organización sin fines de lucro que rastrea la desinformación sobre la guerra, dijo que los propagandistas que crean esas imágenes son expertos en apuntar a los impulsos y ansiedades más profundos de las personas.
Cuanto más aterradora sea la imagen, más probabilidades hay de que los usuarios la recuerden y la compartan, difundiendo inadvertidamente más información errónea. Un contenido falso similar generado por IA realmente comenzó a volverse viral después del conflicto entre Rusia y Ucrania.
Cada nuevo conflicto o temporada electoral presenta oportunidades para la desinformación. Esto ha llevado a muchos expertos en inteligencia artificial y politólogos a advertir sobre los riesgos que habrá el próximo año, cuando varios países celebrarán elecciones importantes, incluidos Estados Unidos, India, Pakistán, Ucrania, Indonesia y México.
El riesgo de que la inteligencia artificial y las redes sociales puedan utilizarse para difundir mentiras a los votantes estadounidenses ha alarmado a los legisladores de ambos partidos en Washington. En una audiencia reciente sobre los peligros de la tecnología deepfake, el representante estadounidense Gerry Connolly, demócrata de Virginia, dijo que Estados Unidos necesita invertir en la financiación del desarrollo de herramientas de IA diseñadas para contrarrestar otras IA.
Para responder eficazmente a los desafíos políticos y sociales que plantea la desinformación generada por la IA se necesitarán tanto una mejor tecnología como una mejor regulación, afirmó David Doermann, profesor de la Universidad de Buffalo.
Mai Anh (según AP)
Fuente
Kommentar (0)