 |
| Les outils d’IA créent facilement de faux produits technologiques. (Illustration) |
« L'ère du deepfake »
Contrairement à ses aspects positifs, l’IA, si elle tombe entre de mauvaises mains, peut facilement voler des images de comptes de réseaux sociaux personnels et les transformer en références indésirables. Par exemple, les sites Web pornographiques peuvent utiliser des images de personnes sans leur consentement.
Le chercheur Hadi Salman, du Massachusetts Institute of Technology, aux États-Unis, a déclaré : « Nous sommes à l’ère du deepfake. Désormais, n’importe qui peut manipuler des images et des vidéos pour faire « faire » aux gens quelque chose qu’ils n’ont pas réellement fait.
Deepfake est une combinaison des mots « deep learning » et « fake », qui est une méthode d’utilisation de l’IA pour créer de faux produits technologiques sous forme d’audio, d’images ou même de vidéos.
En quelques secondes, avec quelques commandes simples, l’IA peut créer n’importe quelle image que les « méchants » souhaitent. Par exemple, quelqu’un pourrait demander à une IA de créer une photo du pape portant une veste Balenciaga, puis de la publier sur Internet avant qu’il ne s’avère que la photo est fausse.
La technologie de l’IA étonne également les utilisateurs par sa capacité à créer des œuvres d’art dans le style d’un artiste particulier. Par exemple, vous pouvez créer un tableau d’un chat qui semble avoir été peint dans le style du célèbre artiste Vincent Van Gogh.
Pour les artistes visuels, ces outils risquent de les mettre au chômage, car les modèles d’IA imitent leurs styles uniques et créent des œuvres d’art sans demander leur permission.
Hélice IA
Eveline Fröhlich, qui vit à Stuttgart, en Allemagne, fait partie d’un nombre croissant d’artistes qui luttent contre l’emprise excessive de l’IA et tentent de trouver des moyens de protéger leurs œuvres visuelles en ligne contre toute manipulation.
Récemment, Mme Fröhlich a découvert un outil appelé Glaze, développé par des informaticiens de l’Université de Chicago (États-Unis) pour empêcher les abus des modèles d’IA.
Ben Zhao, professeur d'informatique à l'Université de Chicago et l'un des principaux chercheurs du projet Glaze, a déclaré à CNN que l'outil est destiné à protéger le travail unique des artistes de ceux qui forment les modèles d'IA.
Le logiciel Glaze utilise des algorithmes d'apprentissage automatique pour apporter de petites modifications aux images numériques qui sont invisibles à l'œil nu, mais créent une couche protectrice pour l'œuvre dans l'environnement en ligne, trompant les modèles d'IA, les rendant incapables de copier le style de l'auteur.
Grâce à Glaze, les œuvres d'art sont « recouvertes d'une cape d'invisibilité », empêchant l'IA de « lire » l'image.
Par exemple, a expliqué M. Zhao, un artiste pourrait télécharger une image de sa propre peinture à l'huile, qui a été exécutée via Glaze. Lorsque les modèles d’IA « lisent » le tableau, ils le voient comme un croquis au fusain, alors que les humains peuvent immédiatement le reconnaître comme une peinture à l’huile. Après avoir exécuté Glaze, les illustrations auront désormais un aspect sensiblement différent aux yeux de l'IA.
L'équipe de Zhao a publié la première version de Glaze en mars dernier et a enregistré plus d'un million de téléchargements de l'outil. La semaine dernière, l’équipe a publié une version en ligne gratuite de Glaze.
L'équipe espère que l'outil Glaze aidera à protéger les droits d'auteur des artistes jusqu'à ce que des réglementations et des lois spécifiques soient établies.
Depuis l'introduction de Glaze, a déclaré M. Zhao, le nombre d'acteurs de doublage, de romanciers, de musiciens et de journalistes qui nous contactent a augmenté. Ils ont tous contacté son équipe pour demander une version de Glaze pour leur domaine.
L'artiste visuel californien Jon Lam utilise l'outil Glaze pour protéger ses œuvres d'art en ligne contre l'utilisation pour former des modèles d'IA, et dit qu'il utilise désormais l'application pour toutes les œuvres d'art qu'il partage en ligne.
Selon lui, depuis de nombreuses années, les artistes comme lui publient leurs œuvres en haute résolution sur Internet par fierté. « Nous voulons que les gens voient à quel point les photos Full HD sont détaillées et étonnantes. Cependant, les artistes ne savent pas que leur travail peut être « dévoré » par des modèles d’IA, qui copient ensuite leur style et les exposent à une concurrence déloyale.
« Nous savons maintenant que les gens prennent notre travail haute résolution et le mettent dans des machines d’IA pour rivaliser dans le même espace de travail que nous. « Nous devons donc être plus prudents et commencer à réfléchir aux moyens de nous protéger », a-t-il déclaré.
Salman et son équipe viennent de publier un autre outil visant à protéger les images de l’IA. L'application, appelée PhotoGuard, permet aux utilisateurs de placer une couche protectrice invisible sur les images pour empêcher les modèles d'IA de pouvoir manipuler les images.
L'objectif de PhotoGuard est de protéger les photos qui ont déjà été téléchargées en ligne par leurs auteurs contre toute « manipulation malveillante de l'IA », a déclaré Salman.
L'application PhotoGuard fonctionne en ajustant les pixels d'une image d'une manière imperceptible pour les humains. Cependant, ce changement, imperceptible à l’œil nu, est suffisamment fort et contourne soigneusement toute tentative des modèles d’IA de manipuler l’image.
Cela signifie que si quelqu'un essaie de modifier une photo à l'aide de l'IA après qu'elle a été protégée par PhotoGuard, la photo résultante ne sera « pas du tout réaliste », a expliqué Salman.
Non autorisé
De l’autre côté de la médaille, même si les outils d’IA prennent et manipulent des images, ce qu’ils créent n’est pas reconnu comme étant protégé par le droit d’auteur.
Depuis son apparition et sa popularité, l’IA a simultanément suscité un débat : ces œuvres sont-elles protégées par le droit d’auteur ou non ? Si oui, à qui appartiennent-ils ?
Le Bureau américain du droit d’auteur (USCO) a pris une décision officielle sur ces œuvres. Selon l'USCO, toutes les images générées par l'IA basées sur des commandes (comme les applications actuelles Midjourney, Dall-E et Stable Diffusion) ne seront pas protégées par le droit d'auteur aux États-Unis.
La loi américaine stipule que la propriété intellectuelle ne peut être protégée par le droit d’auteur que si elle est le produit de la créativité humaine. L'USCO ne reconnaît actuellement que les œuvres composées par des humains. Par conséquent, les machines d’IA ne seront pas considérées comme des auteurs et les produits qu’elles créent ne seront pas protégés par le droit d’auteur.
« Si les éléments traditionnels du droit d’auteur dans une œuvre sont créés par une machine, alors l’œuvre n’est pas protégée par le droit d’auteur d’un humain, et l’USCO ne l’enregistrera pas », a déclaré la directrice de l’USCO, Shira Perlmutter.
Source
Comment (0)