Cuidado con los malos que usan IA para trasplantar los rostros de las víctimas para amenazarlas y chantajearlas.

A diferencia del período anterior, cuando el acceso a herramientas artificiales para hacer videos Deepfake era bastante limitado, muchas herramientas de IA como Grok, ChatGPT, Meta AI, Gemeni, DeepSeek se han lanzado ampliamente y permiten el uso gratuito de funciones básicas, incluida la creación de imágenes. Los usuarios pueden crear la forma deseada o incluso recortar y editar sin necesidad de comprender técnicas de procesamiento especializadas. Esto ha llevado a un aumento en el uso de IA para crear caras con fines que van desde el entretenimiento hasta las amenazas en Internet.

La Sra. YN (Distrito 1, Ciudad Ho Chi Minh) dijo que una vez fue víctima de manipulación de imágenes basada en inteligencia artificial para amenazar a las personas y que le pidieron pagar una gran suma de dinero si quería recuperar datos "sensibles", a pesar de que todos fueron creados con herramientas de inteligencia artificial. En concreto, sus imágenes personales fueron recopiladas por delincuentes y sus rostros fueron editados para crear contenido inapropiado, se crearon chats sensibles y luego buscaron a la Sra. YN para chantajearla.

Los delincuentes utilizan IA para editar, recortar y chantajear a sus víctimas

"Me mostraron capturas de pantalla de los chats, imágenes y videos falsos que crearon y me pidieron 100 millones de VND para borrar el contenido. Debo admitir que las imágenes compuestas son irreconocibles como reales o falsas", compartió la víctima, añadiendo que había denunciado el comportamiento mencionado a las autoridades.

El caso de la Sra. YN es sólo uno de los muchos incidentes recientes que involucran el abuso de herramientas de inteligencia artificial y edición de imágenes con fines maliciosos. En la actualidad, los usuarios de redes sociales en Vietnam todavía se muestran muy "despreocupados" a la hora de compartir imágenes personales, de amigos y familiares en línea y públicamente, a pesar de las numerosas advertencias de expertos en el campo de la seguridad de la información sobre este tema.

Recientemente, el Ministerio de Seguridad Pública también envió una alerta a los usuarios de teléfonos sobre la aparición de delincuentes que aprovechan imágenes y vídeos de personas que están disponibles públicamente en internet, para luego editarlos, cortarlos y combinarlos para crear contenido sensible con el fin de amenazar y chantajear. Se recomienda a las personas estar alertas al recibir mensajes o llamadas con el contenido mencionado y no transferir dinero si se sienten amenazadas. Si detectan indicios de fraude o extorsión, deben reportarse rápidamente a la comisaría más cercana y a través de la aplicación VNeID, indica el aviso.

Además del propósito del chantaje, los delincuentes también pueden utilizar muchas imágenes y vídeos personales públicos de la víctima para crear contenido falso para difamar la reputación en el entorno laboral, tomar venganza personal y causar daños al espíritu y al honor. Cabe destacar que estos documentos falsos son cada vez más sofisticados y difíciles de distinguir tanto para el ciudadano medio como para aquellos interesados ​​en el campo de la inteligencia artificial.

Un estudio realizado por Tidio, una empresa polaca especializada en el desarrollo de chatbots de IA para apoyar las ventas, a finales del año pasado mostró que la mayoría de los usuarios de Internet tienen cada vez más dificultades para distinguir entre imágenes creadas por IA. La empresa afirma que hasta el 87% de los participantes confundieron las fotos de IA con fotos de personas reales. Además, el 62% de los encuestados expresó interés en la IA y el aprendizaje automático, pero la mitad de este grupo no logró identificar correctamente las imágenes generadas por inteligencia artificial.

Actualmente no existen regulaciones específicas para el uso de IA en delitos cibernéticos, pero el uso de imágenes de otras personas para amenazar, chantajear o difundir información falsa aún puede ser manejado bajo disposiciones relacionadas con el delito de humillación a otros, extorsión de propiedad o difusión de productos culturales obscenos.

Ante esta situación, los expertos recomiendan a los usuarios ser cautelosos al compartir imágenes personales en redes sociales y utilizar herramientas de seguridad para controlar la privacidad.

Fuente: https://thanhnien.vn/canh-giac-ke-xau-loi-dung-ai-ghep-mat-nan-nhan-de-de-doa-tong-tien-185241107153341681.htm