Según Reuters, Nick Clegg, presidente de asuntos globales de Meta, dijo que el grupo utilizará un conjunto de marcadores integrados en los archivos. La compañía aplicará etiquetas a cualquier contenido publicado en sus servicios de Facebook, Instagram y Threads, una medida destinada a señalar a los usuarios que las imágenes (que pueden parecer fotos reales) son en realidad creaciones digitales generadas por inteligencia artificial. La empresa también ha etiquetado el contenido generado utilizando sus propias herramientas de inteligencia artificial.
Una vez que el nuevo sistema esté en funcionamiento, Meta hará lo mismo con las imágenes creadas en servicios de OpenAI, Microsoft, Adobe, Midjourney, Shutterstock y Alphabet. El anuncio proporciona la primera noticia sobre un nuevo conjunto de estándares que las empresas tecnológicas están desarrollando para mitigar el daño de la IA generativa, que puede crear contenido falso utilizando simplemente texto simple.
El etiquetado de imágenes generado por IA ayudará a frenar la desinformación y las estafas
El enfoque se basa en un patrón establecido durante la última década por las empresas para coordinar la eliminación de contenido prohibido en las plataformas, como representaciones de violencia masiva y explotación infantil.
Clegg cree que en este momento las empresas pueden etiquetar de manera confiable las imágenes generadas por IA, aunque señala que aún se están desarrollando herramientas de etiquetado de contenido de audio y video más sofisticadas.
En el futuro inmediato, Meta comenzará a exigir a los usuarios que etiqueten el contenido de audio y video alterado e impondrá sanciones si no lo hacen. Sin embargo, Clegg dijo que actualmente no existe un mecanismo viable para etiquetar el texto generado por herramientas de IA como ChatGPT.
La junta de supervisión independiente de Meta criticó la política de la compañía sobre los vídeos editados de forma engañosa, afirmando que el contenido debería etiquetarse en lugar de eliminarse. Clegg cree que la nueva medida de Meta podría ayudar a clasificar mejor este contenido.
Enlace de origen
Kommentar (0)