La legendaria lucha contra la desinformación, los deepfakes y las estafas

(NB&CL) Además de la guerra, la violencia armada o las profundas divisiones geopolíticas globales, el mundo en 2024 sigue enfrentándose a otra gran batalla contra la desinformación, las noticias falsas y el fraude. Este problema será una historia legendaria, difícil de terminar, y se prevé que se tornará cada vez más grave si el mundo no se une para tomar medidas drásticas.

Caos informativo: un peligro creciente

La disrupción informativa, especialmente la desinformación y el fraude cibernético, se considera una “pandemia global”, una batalla común del mundo en la que las organizaciones de prensa tradicionales, con su misión de proteger la verdad, deben desempeñar un papel pionero. Sin embargo, la lucha sólo puede tener éxito si se adoptan medidas drásticas y fundamentales en cada país y en las organizaciones mundiales.

Las noticias falsas, la desinformación y, especialmente, las actividades fraudulentas se han convertido en las consecuencias inevitables y los aspectos negativos a medida que el mundo entra en una nueva era de comunicación. Sencillamente, el escenario ya no es sólo para los medios de comunicación y las agencias de prensa censuradas. Como sabemos, la explosión de Internet, de los dispositivos de alta tecnología y, especialmente, de las redes sociales, ha hecho posible que cualquiera pueda convertirse en un “periodista”, un “reportero” o incluso un “portavoz” seguido por millones de personas.

Redes sociales, un mundo sin reglas

Todo tiene dos caras. La explosión de las redes sociales ha traído consigo muchos beneficios, como por ejemplo ayudar a que la información y el conocimiento se difundan rápidamente y ampliamente de una forma espectacular. Hoy en día, la información sobre un accidente puede llegar a personas en cuestión de minutos, incluso desde cualquier parte del mundo. O la información sobre desastres naturales como inundaciones, tormentas, incendios forestales... también son actualizados rápidamente por la gente a través de plataformas de redes sociales o compartidos, lo que ayuda a difundir o advertir de manera efectiva.

Sin embargo, junto con los aspectos positivos, las redes sociales y las plataformas de intercambio comunitario están trayendo consecuencias preocupantes. Lo que es más aterrador es que no sólo los humanos, sino también las máquinas y, especialmente, la rápida penetración de la inteligencia artificial (IA), están haciendo del mundo de Internet en general y de las plataformas tecnológicas en particular un lugar con demasiados riesgos.

“Pandemia de información” en redes sociales

Según las estadísticas publicadas por Redline a finales de junio de 2024, hay 4.900 millones de usuarios de redes sociales en todo el mundo. Según esta encuesta realizada a estadounidenses, la mayoría de los usuarios de las redes sociales no confían en la veracidad de la información que se difunde en estas plataformas, desde Facebook, TikTok hasta YouTube. Por ello, esta organización utilizó el término “infodemia” para hablar del estado actual de la desinformación en las redes sociales.

El mundo de las redes sociales es como un bosque primigenio, casi sin reglas. Allí la gente disfruta de fertilidad, libertad y comodidad, pero junto con eso hay trampas mortales. Hasta ahora, casi todos los países todavía luchan con la gestión y organización de ese "bosque primario", y sólo han dado los primeros pasos para abordar las violaciones, mientras que este "mundo" ha abarcado a toda la humanidad.

A fines de noviembre de este año, Australia se convirtió en el primer país del mundo en introducir oficialmente una ley que prohíbe a los niños ingresar al fascinante, aunque peligroso y casi sin ley, mundo “primitivo”. En concreto, Australia prohíbe a los menores de 16 años utilizar las redes sociales e impondrá fuertes multas de hasta 32 millones de dólares si las redes sociales infringen esta normativa.

En ese contexto, la explosión de noticias falsas, desinformación y, especialmente, fraudes en las redes sociales (así como a través de otras formas de alta tecnología como aplicaciones de software, sitios web fraudulentos...) continúa convirtiéndose en un problema global. En Vietnam, todos los días escuchamos historias desgarradoras sobre víctimas estafadas por todo tipo de delitos cibernéticos. En el mundo, este también es un problema de cualquier país.

En marzo de este año, Interpol informó que el fraude en línea en el sudeste asiático se ha expandido globalmente, recaudando hasta 3 billones de dólares al año (equivalente al PIB de Francia). Incluso un grupo de ingeniería británico perdió 25 millones de dólares después de que unos estafadores utilizaran una falsificación profunda para hacerse pasar por un alto directivo y ordenar transferencias de dinero. Estos son, por supuesto, sólo algunos ejemplos de los millones de estafas que ocurren en Internet.

Lidiar con la difusión de información errónea en las redes sociales: ¿misión imposible?

Aunque los países y organizaciones globales realizan esfuerzos constantes para prevenir o sancionar actividades ilegales en el ciberespacio, especialmente en grandes plataformas sociales como TikTok, Facebook o X, el número de casos atendidos aún es muy pequeño.

Lo que es más notable es que hasta ahora, casi ningún país u organización ha responsabilizado a las redes sociales por malas acciones, como difundir información falsa o incluso violar la ley. En mayo de este año, la propia Meta admitió que había encontrado contenido “potencialmente generado por IA” que se utilizaba para tergiversar o estafar en sus plataformas de Facebook e Instagram. Esta afirmación demuestra que las propias redes sociales se declaran "inocentes" al difundir información dañina, de lo contrario no se habrían "confesado" así.

De hecho, grandes empresas tecnológicas como Meta, TikTok, Google, Microsoft o X han tenido que pagar miles de millones de dólares en multas en todo el mundo por sus infracciones, pero solo están relacionadas con violaciones de las normas de privacidad de los usuarios o de las leyes antimonopolio, y casi no ha habido sanciones contra ellas por permitir que se produzcan infracciones en su "casa".

El caso más destacado relacionado con este ámbito es la detención del jefe de Telegram, Pavel Durov, en Francia, acusado de facilitar la difusión de actividades delictivas en esta plataforma de mensajería. Sin embargo, el arresto, que se cree tiene connotaciones políticas, se llevó a cabo en secreto. No es como un caso legal público contra una red social o una empresa normal. De hecho, nunca ha habido un solo castigo para Telegram relacionado con actividades delictivas en esta plataforma, a pesar de que Naciones Unidas publicó un informe en octubre de 2024 que afirma que esta plataforma es una herramienta que las bandas criminales utilizan para realizar transacciones ilegales.

El mundo todavía está luchando para gestionar el problema de las noticias falsas, la desinformación y el fraude en las plataformas de redes sociales. Ilustración: IJNET

Entonces, incluso con actividades ilegales tan obvias, no es posible lidiar con las plataformas de redes sociales o compartir en la comunidad; está claro que controlar el contenido tóxico, las noticias falsas y la desinformación está extremadamente lejos.

Como resultado, las plataformas no solo no tienen miedo, sino que cada vez muestran más señales de "actuar por su cuenta", al fomentar información controvertida, sensacionalista, sin sentido o tóxica para atraer espectadores, a través de sus algoritmos cada vez más sofisticados. Vale la pena señalar que las grandes tecnológicas también están dispuestas a presionar o desafiar cualquier medida que busque castigarlas por este tema. El multimillonario Elon Musk, propietario de la red social X, expresó en septiembre de 2024 su oposición a un nuevo proyecto de ley australiano que propone multar a las empresas de redes sociales si no logran prevenir la desinformación en línea.

Según el proyecto de ley, aún australiano, las plataformas de Internet podrían ser multadas con hasta el 5% de su facturación global por difundir información errónea. Otras grandes plataformas tecnológicas como Google y Meta también han expresado sus preocupaciones y cuestionado el nuevo proyecto de ley de Australia. Cabe destacar que este también es un proyecto de ley poco común en el mundo que menciona penalizar a las redes sociales si difunden información falsa, noticias falsas y actividades fraudulentas.

Si observamos el mundo de los medios tradicionales y el periodismo, esa paradoja es difícil de aceptar. Todo el mundo sabe que si un periódico o un canal de televisión comete incluso un pequeño error profesional, por no hablar de proporcionar información falsa o ilegal, toda la agencia puede ser severamente castigada y, como mínimo, los lectores les darán la espalda, no sólo al periodista o editor que proporcionó la información.

La “pandemia mundial” se está saliendo de control

Se puede decir que el problema de la desinformación, las noticias falsas, las noticias tóxicas y el fraude es más grave que cualquier guerra o pandemia, ya que puede afectar a toda una generación a nivel mundial, especialmente a los jóvenes. Se han realizado demasiados estudios que muestran cómo las redes sociales, especialmente las adictivas funciones de videos cortos de Facebook, TikTok o Google, son perjudiciales para la salud física y mental de los niños.

En un estudio reciente, UNICEF señaló que las redes sociales están diseñadas para captar la atención de los usuarios durante el mayor tiempo posible, aprovechando nuestros sesgos y vulnerabilidades psicológicas, como el deseo de aprobación o el miedo al rechazo. El uso excesivo de las redes sociales está vinculado a sentimientos de envidia, inferioridad y poca satisfacción con la vida. Los estudios incluso sugieren que este hábito puede conducir a síntomas de depresión, ansiedad y privación del sueño, siendo los más típicos la enfermedad mental...

La cantante Taylor Swift es una de las celebridades que ha sido víctima del problema de los deepfakes con inteligencia artificial. Fotografía: Herbert Wang

La normativa de Vietnam que obliga a las redes sociales a autenticar a los usuarios entrará en vigor

El Decreto 147/2024/ND-CP sobre gestión, prestación y uso de servicios de Internet e información en línea, emitido recientemente por el Gobierno vietnamita, entrará en vigor el 25 de diciembre de 2024. En consecuencia, el reglamento exige que las redes sociales autentiquen a los usuarios mediante el número de teléfono o el número de identificación personal y solo las cuentas autenticadas pueden proporcionar información (escribir artículos, comentar, transmitir en vivo) y compartir información en las redes sociales. Se espera que este Decreto limite en gran medida la difusión de información falsa y engañosa y, especialmente, las actividades fraudulentas en las redes sociales.

Hay muchos ejemplos que muestran que la desinformación, las noticias falsas y las imágenes deepfake tienen graves repercusiones en la vida real y podrían convertirse en una amenaza global. En agosto de este año, estallaron disturbios debido a una afirmación falsa difundida en las redes sociales de que el sospechoso de un apuñalamiento que mató a una joven en el Reino Unido era un inmigrante musulmán radical (que en realidad era británico). Los disturbios provocaron miles de detenciones por parte de la policía.

Durante el fallido intento de asesinato de Donald Trump en julio de 2024, el mundo de las redes sociales también se inundó de noticias falsas y teorías conspirativas, como la de que un periodista italiano fuera considerado sospechoso (en realidad, un joven estadounidense de 20 años). También hubo tergiversaciones en las redes sociales respecto a que el sospechoso era chino o que el incidente era un “escenario preparado”. La difusión de desinformación también aumenta el odio hacia todos los conflictos y puntos conflictivos del mundo, como las guerras entre Rusia y Ucrania, entre Israel y Palestina o el problema del antisemitismo y los islamistas.

Además, con la explosión de la IA, la lucha contra la desinformación se está saliendo de control. Las herramientas deepfake y los modelos de IA baratos están proliferando sin ningún control significativo.

Según las estadísticas de DeepMedia, la cantidad de vídeos y voces deepfake se ha disparado cada año. Los videos deepfake se han más que triplicado y las voces deepfake más de ocho veces en 2023 en comparación con 2022. De estos, se prevé que alrededor de 500.000 videos y voces deepfake se compartirán en redes sociales a nivel mundial en 2024.

A principios de 2024, una serie de imágenes pornográficas de la cantante Taylor Swift generadas por inteligencia artificial se difundieron en las redes sociales, causando dolor en todo el mundo. Además, una serie de políticos de todo el mundo, incluido el presidente estadounidense Joe Biden y líderes del Reino Unido, India, Nigeria, Sudán, Etiopía y Eslovaquia, también se han convertido en víctimas del problema de suplantación de identidad deepfake.

Por ello, el problema de las noticias falsas, la desinformación y, sobre todo, las actividades fraudulentas en el ciberespacio es cada vez más grave. En la próxima era de la inteligencia artificial, esta “pandemia global” podría salirse de control sin los esfuerzos conjuntos de todo el mundo, especialmente de los responsables políticos de cada país, para evitarla.

Hoang Hai

Fuente: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html