En los últimos días, imágenes de usuarios luciendo vestidos rosas sin tirantes u otros atuendos sexys han sido compartidas por muchas cuentas de redes sociales y han recibido respuestas positivas de muchos usuarios. Todos estos son productos de una nueva función llamada "AI Wardrobe" lanzada por una aplicación de fotografía china. Los usuarios sólo necesitan una foto original con la cara del personaje y unos sencillos pasos para elegir entre más de 70 diseños de ropa diferentes, desde vestidos de noche, ropa infantil hasta diseños "ahorradores de tela". Todo el proceso de procesamiento y edición solo toma unos segundos, el sistema conserva la escena y los detalles de las personas en la foto original, solo cambiando el vestuario del personaje seleccionado.
Las capacidades de procesamiento de inteligencia artificial (IA) de esta aplicación son tan realistas que muchas personas no se dan cuenta de que es el producto de una herramienta de edición. En poco tiempo, este software ha recibido la atención de la comunidad y se ha difundido con imágenes divertidas y humorísticas. Pero como es habitual, junto con la emoción, hay muchas preocupaciones sobre el riesgo de abusar de esta herramienta, junto con los riesgos de seguridad.
Las imágenes y los disfraces editados con IA plantean un riesgo de filtración de datos del usuario
Las IA como Deepfake han causado mucha controversia con su capacidad de cambiar, fusionar caras y crear movimientos realistas en los vídeos, muchos casos creados con intenciones maliciosas. Por lo tanto, el hecho de que una herramienta pueda cambiar de ropa de forma realista, sin casi ninguna señal de intervención tecnológica, plantea la posibilidad de que la broma se lleve demasiado lejos cuando alguien la aproveche para combinar fotos y enviar mensajes negativos y falsos.
El Sr. Vu Ngoc Son, jefe del Departamento de Investigación Tecnológica de la Asociación Nacional de Seguridad Cibernética (NCA), notó que las aplicaciones de edición de fotografías con inteligencia artificial de repente "se calentaron" nuevamente en las plataformas de redes sociales y la última es el software de edición de ropa y vestuario mencionado anteriormente. Estas tendencias utilizan la tecnología para crear imágenes con el propósito de ser divertidas y únicas que puedan atraer inmediatamente a los usuarios, pero tenga en cuenta que el programa requiere acceso a la carpeta de fotos en el dispositivo.
"Se trata de un derecho de acceso extremadamente sensible, con un riesgo muy elevado de fuga de datos personales", enfatizó Vu Ngoc Son. Según él, con el desarrollo actual de la IA, las imágenes son datos muy valiosos. La IA puede saber quién es una persona, cuáles son sus intereses, dónde suele ir e incluso a quién conoce... sólo a través de fotos. Esto también abre oportunidades para el negocio de recopilación y reventa de imágenes a empresas de minería y uso de datos. La consecuencia inmediata puede ser que los usuarios reciban muchos anuncios molestos. A largo plazo, las fotografías pueden utilizarse para otros fines, como el fraude y el chantaje.
El 20 de febrero, el Ministerio de Seguridad Pública también emitió una advertencia vía mensaje de texto (SMS) a usuarios de teléfonos a nivel nacional sobre la explotación de imágenes y videos disponibles públicamente en internet para editarlos, cortarlos y combinarlos para crear contenido sensible con fines de amenazar y chantajear.
"Si no conoces realmente el origen de la aplicación, no deberías descargar programas como este. El ciberespacio es peligroso, pero que tus datos se filtren o no depende en parte de tu propia conciencia", advirtió Vu Ngoc Son. En todas las situaciones, incluidas las nuevas tendencias, los expertos en ciberseguridad aconsejan a los usuarios ser cautelosos y no intercambiar datos personales, especialmente los faciales propios y de sus seres queridos, por unos minutos de diversión en las redes sociales.
Fuente: https://thanhnien.vn/canh-giac-voi-cac-ung-dung-chinh-sua-anh-bang-ai-185250221085605624.htm
Kommentar (0)