 |
| Las herramientas de IA crean fácilmente productos tecnológicos falsos. (Ilustración) |
“La era de los deepfakes”
Contrariamente a los aspectos positivos, la IA, si está en las manos equivocadas, puede robar fácilmente imágenes de cuentas de redes sociales personales y convertirlas en referencias no deseadas. Por ejemplo, los sitios web pornográficos pueden utilizar imágenes de personas sin consentimiento.
El investigador Hadi Salman, del Instituto Tecnológico de Massachusetts, EE. UU., compartió: “Estamos en la era de los deepfakes. Ahora cualquiera puede manipular imágenes y vídeos para obligar a la gente a “hacer” algo que en realidad no hizo”.
Deepfake es una combinación de las palabras “deep learning” y “fake”, que es un método de uso de IA para crear productos tecnológicos falsos en forma de audio, imágenes o incluso vídeos.
En apenas unos segundos, con unos simples comandos, la IA puede crear cualquier imagen que los “malos” quieran. Por ejemplo, alguien podría pedirle a una IA que cree una foto del Papa vistiendo una chaqueta Balenciaga y luego la publique en Internet antes de que resulte que la foto es falsa.
La tecnología IA también sorprende a los usuarios con su capacidad de crear obras de arte en el estilo de un artista en particular. Por ejemplo, puedes crear un cuadro de un gato que parezca pintado al estilo del famoso artista Vincent Van Gogh.
Para los artistas visuales, estas herramientas corren el riesgo de dejarlos sin trabajo, ya que los modelos de IA imitan sus estilos únicos y crean obras de arte sin su permiso.
Hélice de IA
Eveline Fröhlich, que vive en Stuttgart, Alemania, es una de un número cada vez mayor de artistas que luchan contra el alcance excesivo de la IA y tratan de encontrar formas de proteger sus obras visuales en línea de la manipulación.
Recientemente, la Sra. Fröhlich conoció una herramienta llamada Glaze, desarrollada por científicos informáticos de la Universidad de Chicago (EE. UU.) para evitar el abuso de los modelos de IA.
Ben Zhao, profesor de informática en la Universidad de Chicago y uno de los investigadores principales del proyecto Glaze, dijo a CNN que la herramienta está destinada a proteger el trabajo único de los artistas de aquellos que entrenan modelos de IA.
El software Glaze utiliza algoritmos de aprendizaje automático para realizar pequeños cambios en las imágenes digitales que son invisibles a simple vista, pero crean una capa protectora para el trabajo en el entorno en línea, engañando a los modelos de IA y haciéndolos incapaces de copiar el estilo del autor.
Gracias a Glaze, las obras de arte quedan "cubiertas por una capa de invisibilidad", impidiendo que la IA "lea" la imagen.
Por ejemplo, explicó el Sr. Zhao, un artista podría cargar una imagen de su propia pintura al óleo, que haya sido procesada a través de Glaze. Cuando los modelos de IA “leen” la pintura, la ven como un boceto a carboncillo, mientras que los humanos pueden reconocerla inmediatamente como una pintura al óleo. Después de ejecutar Glaze, las ilustraciones ahora se verán significativamente diferentes a los ojos de la IA.
El equipo de Zhao lanzó la primera versión de Glaze en marzo pasado y ha tenido más de un millón de descargas de la herramienta. La semana pasada, el equipo lanzó una versión en línea gratuita de Glaze.
El equipo espera que la herramienta Glaze ayude a proteger los derechos de autor de los artistas hasta que se establezcan regulaciones y leyes específicas.
Desde que se presentó Glaze, dijo Zhao, el número de actores de doblaje, novelistas, músicos y periodistas que se han puesto en contacto con nosotros ha aumentado. Todos se pusieron en contacto con su equipo para preguntar sobre una versión de Glaze para su campo.
Jon Lam, artista visual residente en California, utiliza la herramienta Glaze para proteger sus obras de arte en línea y evitar que se utilicen para entrenar modelos de IA, y dice que ahora usa la aplicación para todas las obras de arte que comparte en línea.
Según él, desde hace muchos años artistas como él publican sus obras en Internet con la más alta resolución como un motivo de orgullo. “Queremos que la gente vea lo detalladas y sorprendentes que son las fotos en Full HD. Sin embargo, los artistas desconocen que su obra puede ser “devorada” por modelos de IA, que luego copian su estilo y los exponen a una competencia desleal.
“Ahora sabemos que la gente está tomando nuestro trabajo de alta resolución y poniéndolo en máquinas de IA para competir en el mismo espacio de trabajo que nosotros. Así que tenemos que ser más cautelosos y empezar a pensar en formas de protegernos”, dijo.
Salman y su equipo acaban de lanzar otra herramienta destinada a proteger las imágenes de la IA. La aplicación, llamada PhotoGuard, permite a los usuarios colocar una capa protectora invisible sobre las imágenes para evitar que los modelos de IA puedan manipularlas.
El objetivo de PhotoGuard es proteger las fotos que ya han sido subidas a Internet por sus autores de la “manipulación maliciosa de la IA”, dijo Salman.
La aplicación PhotoGuard funciona ajustando los píxeles de una imagen de forma imperceptible para los humanos. Sin embargo, este cambio, imperceptible a simple vista, es suficientemente fuerte y evita cuidadosamente cualquier intento de los modelos de IA de manipular la imagen.
Esto significa que si alguien intenta editar una foto usando IA después de haberla protegido con PhotoGuard, la foto resultante “no será realista en absoluto”, explicó Salman.
Sin licencia
Por otro lado, incluso si las herramientas de IA toman y manipulan imágenes, lo que crean no se reconoce como susceptible de protección por derechos de autor.
Desde su surgimiento y popularidad, la IA ha suscitado simultáneamente un debate: ¿estas obras están sujetas a derechos de autor o no? Si es así ¿a quién pertenecen?
La Oficina de Derechos de Autor de los Estados Unidos (USCO) ha tomado una decisión oficial sobre estas obras. Según la USCO, cualquier imagen generada por IA basada en comandos (como las aplicaciones actuales Midjourney, Dall-E y Stable Diffusion) no estará sujeta a derechos de autor en los EE. UU.
La ley estadounidense establece que la propiedad intelectual sólo puede estar protegida por derechos de autor si es producto de la creatividad humana. Actualmente la USCO sólo reconoce obras compuestas por humanos. Por lo tanto, las máquinas de IA no serán consideradas autores y los productos que creen no estarán sujetos a derechos de autor.
“Si los elementos tradicionales de los derechos de autor de una obra son creados por una máquina, entonces la obra no está protegida por derechos de autor de un ser humano y la USCO no la registrará”, dijo la directora de la USCO, Shira Perlmutter.
Fuente
Kommentar (0)