Las noticias falsas se están volviendo más sofisticadas con la manipulación de IA
Recientemente, en la reunión entre la Asociación de Periodistas de Vietnam y la Asociación de Periodistas de Tailandia celebrada en Hanoi, los líderes de las dos asociaciones pasaron la mayor parte del tiempo mencionando el problema de las "noticias falsas" y afirmaron que este ya no es un problema nacional sino un problema importante, que causa impactos impredecibles en la región y el mundo.
Según una investigación de Google DeepMind, la creación de imágenes, vídeos y audio que suplantan a humanos es casi dos veces más común que la creación de información errónea utilizando herramientas como los chatbots de IA.
En los últimos meses han aparecido deepfakes del canciller británico Rishi Sunak y otros líderes mundiales en TikTok, X e Instagram. Existe la preocupación de que, a pesar de los esfuerzos de las redes sociales por etiquetar o eliminar dicho contenido, el público podría no reconocerlo como falso y que su difusión podría influir en los votantes.
Falsificaciones del primer ministro británico, Rishi Sunak, han aparecido en TikTok e Instagram antes de las elecciones generales. (Foto: AFP)
Evaluación del impacto de las noticias falsas en la era de la tecnología, Ths. Luong Dong Son, profesor del Instituto de Periodismo y Comunicación de la Academia de Periodismo y Propaganda, comentó que el producto de la combinación de IA y desinformación, también conocido como noticias falsas surrealistas, puede distorsionar la percepción pública de los acontecimientos y los problemas sociales, afectando así la forma en que evalúan la situación y toman decisiones. Esto puede tener graves consecuencias, desde pequeñas decisiones personales hasta decisiones importantes que afectan a comunidades y naciones.
Las noticias falsas surrealistas pueden utilizarse como herramienta para manipular la opinión pública, incitar a la violencia, sembrar división y socavar la estabilidad social. En el ámbito político, las noticias falsas surrealistas pueden erosionar la confianza en las instituciones democráticas, influir en los resultados electorales e incluso incitar conflictos.
Sobre los desafíos que enfrentan los periodistas y las organizaciones de prensa, Ths. La sofisticación de las noticias falsas hiperrealistas, especialmente las deepfakes, hace que sea cada vez más difícil distinguir entre lo real y lo falso, incluso para periodistas experimentados, dijo Luong Dong Son.
En la era de la explosión informativa, el público exige cada vez más que los periodistas y las organizaciones de noticias proporcionen información con rapidez y precisión. Sin embargo, esta presión puede llevar a los periodistas a publicar información apresurada sin verificarla cuidadosamente, lo que crea oportunidades para la propagación de noticias falsas surrealistas. Además, los periodistas y las organizaciones de noticias enfrentan riesgos legales y éticos si no verifican y publican la información con cuidado, afirmó el Sr. Son.
Consigue que la IA verifique la información
Según Ths. Luong Dong Son, para lidiar con este tipo de noticias falsas, es extremadamente necesario aplicar soluciones tecnológicas modernas.
"Estas soluciones no solo se centran en detectar y eliminar noticias falsas, sino también en prevenirlas desde las primeras etapas de su producción", afirmó el MSc. Dong Son.
En primer lugar, una de las tecnologías más importantes hoy en día, según el Sr. Son, es el uso de sistemas de inteligencia artificial para detectar noticias falsas surrealistas. Los sistemas de IA modernos son capaces de analizar el contexto, recopilar información de múltiples fuentes y detectar anomalías en el contenido de la información. Un claro ejemplo es el uso de IA para analizar vídeos e imágenes y detectar señales de edición o producción de deepfakes.
Además, las plataformas de redes sociales y los motores de búsqueda también están implementando activamente algoritmos de aprendizaje automático para clasificar y filtrar automáticamente el contenido de noticias falsas antes de que se vuelva viral. Estos algoritmos están diseñados para reconocer señales inusuales en los patrones de intercambio, la viralidad o incluso el tono de las publicaciones y evaluar la probabilidad de que la información sea falsa.
Además, el uso de la tecnología blockchain para gestionar la procedencia de la información también es una solución potencial. Blockchain tiene el potencial de crear un sistema de autenticación transparente e inmutable, que ayuda a rastrear el origen y el historial de toda la información, garantizando precisión y confiabilidad.
La IA puede crear contenido falso o información e imágenes engañosas que son difíciles de distinguir, causando gran daño a la reputación de personas y organizaciones, e incluso perjudicando intereses nacionales y étnicos.
Estoy de acuerdo con Ths. Luong Dong Son, Sr. Phan Van Tu - Jefe del Departamento de Periodismo - Facultad de Periodismo y Comunicación, Universidad de Ciencias Sociales y Humanidades, Ciudad Ho Chi Minh. HCM enfatizó que, además de proporcionar habilidades para explotar las fortalezas de la IA para el periodismo, también necesitamos utilizar herramientas de IA para verificar la información.
La verificación de fuentes, que consiste esencialmente en evaluar la confiabilidad de una fuente, es una habilidad importante que implica verificar la fuente de información, compararla con otras fuentes y utilizar herramientas de verificación de datos para comprobar su confiabilidad.
Curiosamente, ahora existen muchas herramientas integradas con IA que apoyan a los periodistas en el proceso de verificación, además de las herramientas tradicionales que apoyan a los verificadores de hechos, como Google Image, Tineye reverse image search, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...
El Sr. Phan Van Tu dijo que la capacitación de las habilidades profesionales de los periodistas en el período actual requiere centrarse en proporcionar capacidad de verificación de información contra el ataque de noticias falsas manipuladas por IA. "Usar herramientas de IA para corregir errores de IA es la manera más rápida de ayudar a periodistas y agencias de prensa no solo a desempeñar bien su función, sino también a contribuir a mejorar la calidad de la información y proteger al público de la desinformación y los impactos negativos de los medios", afirmó el Sr. Tu.
Sin embargo, el Sr. Tu también señaló que la capacidad de los periodistas para evaluar la información no puede depender únicamente de herramientas. Cabe decir de inmediato que la IA puede ayudar a analizar el contenido de las noticias, pero no puede detectar todo tipo de noticias falsas e información manipulada. El software de IA aún puede ser engañado por las mismas técnicas de IA que utiliza para detectar.
"Ninguna herramienta es una varita mágica, pero las herramientas de IA que detectan fotos y vídeos falsos siguen siendo un recurso valioso como parte de un proceso de verificación o un método de diligencia debida", afirmó Phan Van Tu.
Hoa Giang
[anuncio_2]
Fuente: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html
Kommentar (0)