La vidéo a attiré l'attention après que le milliardaire technologique Elon Musk l'a partagée sur le réseau social X dans la soirée du 26 juillet sans préciser que le but initial était de se moquer.
La vidéo, qui présente plusieurs images de Mme Harris, a été publiée la semaine dernière alors qu'elle lançait sa campagne. Cependant, la voix dans la vidéo est changée en une autre voix qui ressemble de manière convaincante à la sienne.
« Moi, Kamala Harris, je suis la candidate démocrate à la présidence parce que Joe Biden a finalement montré sa confusion lors du débat », dit la voix dans la vidéo. La vidéo affirme que Mme Harris est la candidate démocrate uniquement parce qu'elle est une femme et une personne de couleur, et dit qu'elle ne sait « rien de la gestion d'un pays ».
Elon Musk, PDG de Tesla et SpaceX. Photo : AP
« Nous pensons que le peuple américain veut la véritable liberté, les opportunités et la sécurité que la vice-présidente Harris lui offre, et non les mensonges faux et manipulés d’Elon Musk », a déclaré Mia Ehrenberg, porte-parole de la campagne de Harris.
La vidéo ci-dessus est un exemple de la manière dont la technologie de l’IA est utilisée pour se moquer et tromper sur la politique, en particulier à l’approche de l’élection présidentielle aux États-Unis. Cela montre que, même si les outils d’IA de haute qualité deviennent plus accessibles, il existe encore des lacunes importantes dans la manière dont ils sont gérés.
Deux experts spécialisés dans les médias générés par l’IA ont examiné l’audio de la fausse vidéo et ont confirmé qu’une grande partie du contenu avait été créé à l’aide de la technologie de l’IA.
L'un d'eux, l'expert en criminalistique numérique Hany Farid de l'Université de Californie à Berkeley, a déclaré que la vidéo montre la puissance de l'IA générative et des deepfakes.
« La voix générée par l'IA est excellente. Même si la plupart des gens ne croiraient pas qu'il s'agit de la voix de la vice-présidente Harris, la vidéo reste très convaincante, car le discours lui ressemble parfaitement », a-t-il déclaré.
Les entreprises d’IA qui créent des outils de transcription vocale et d’autres outils d’IA devraient faire mieux pour garantir que leurs services ne sont pas utilisés d’une manière qui pourrait nuire au public, a-t-il déclaré.
Rob Weissman, coprésident du groupe de défense Public Citizen, n'était pas d'accord avec Farid, affirmant qu'il pensait que de nombreuses personnes seraient trompées par la vidéo.
Hoai Phuong (selon AP)
Source : https://www.congluan.vn/elon-musk-chia-se-video-deepfake-gia-giong-ba-harris-post305360.html
Comment (0)