Vous trouverez ci-dessous les avis de deux experts de l'Université RMIT sur les effets néfastes des deepfakes et les solutions proposées à ce problème :
 |
| Dr Jonathan Crellin (à gauche) et Dr Nguyen Van Thang Long (à droite). (Source : Université RMIT) |
Les cybercriminels exploitent les nouvelles technologies de manière imprévue
Dr Jonathan Crellin, Responsable de la sécurité de l'information, Faculté des sciences, de l'ingénierie et de la technologie, Université RMIT :
Deepfake est une image générée par machine qui peut combiner des images ou des vidéos provenant de plusieurs sources, créant une image, une vidéo ou même un son très réaliste.
Les deepfakes s'appuient sur une technique d'IA appelée apprentissage automatique, qui peut remplacer et intégrer des éléments comme le visage d'une personne dans une autre image ou vidéo.
Un exemple d’utilisation du deepfake consiste à combiner du contenu pornographique avec des photos de Taylor Swift pour créer de fausses images.
Pour ce faire, le cerveau avait besoin de quelques images afin que le logiciel puisse en apprendre davantage sur les expressions faciales du chanteur, puis les combiner avec du contenu pornographique pour créer des photos obscènes, ternissant ainsi l'image du chanteur.
En fait, la rumeur dit que ces photos ont été publiées par un groupe Telegram et ont été créées à l'aide de l'outil Microsoft Designer avec prise en charge de l'IA intégrée.
N’importe qui peut devenir une victime, car les méchants n’ont besoin que d’une photo, d’une vidéo ou d’un enregistrement audio de la personne usurpée.
Les fausses nouvelles, sous de nombreuses formes, peuvent être utilisées pour créer de fausses nouvelles, et il est raisonnable de supposer que la prochaine élection présidentielle américaine sera remplie de telles fausses nouvelles.
Actuellement, les législateurs du monde entier cherchent à promulguer des lois contre ce type d’images.
Certaines approches commencent à être adoptées aux États-Unis en termes de législation, comme le recours aux poursuites civiles ou aux lois visant à lutter contre « la diffusion d’images sexuellement explicites d’une personne générées par l’IA sans le consentement de cette personne ».
La Chine a également introduit de nouvelles réglementations qui permettraient de poursuivre ceux qui diffusent des images générées par l’IA.
Le Royaume-Uni rend illégal le partage de contenu deepfake en vertu de sa loi sur la sécurité en ligne.
Comment détecter ou prévenir cela ?
La première façon est de réduire le nombre d’images, de vidéos ou d’enregistrements audio en ligne. Assurez-vous de ne les partager qu’avec les personnes que vous connaissez et de ne pas les publier largement en ligne. Une fois le contenu mis en ligne, il est presque impossible de le supprimer.
La deuxième façon est de convenir d’un mot secret avec votre famille pour authentifier l’appel, réduisant ainsi le risque de tomber dans le piège d’un faux appel.
Les images, en particulier les vidéos, peuvent contenir des erreurs étranges (qui semblent mises en scène). Si vous repérez ces erreurs, il y a de fortes chances que l'image ou le son ait été falsifié.
Une autre technique qui peut être utilisée est de rechercher « image inversée » sur Google ou d’autres moteurs de recherche, pour déterminer la source de l’image originale.
La dernière leçon est de ne pas croire aveuglément ce que vous voyez, la caméra (ou l'IA) peut mentir !
Les deepfakes représentent une menace énorme pour les célébrités et les politiciens
Dr. Nguyen Van Thang Long, Maître de conférences, Faculté de communication et de design, Université RMIT :
Avec la prolifération des fausses nouvelles provenant des deepfakes, les équipes médiatiques des célébrités et des politiciens doivent disposer de ressources pour surveiller et répondre rapidement aux fausses nouvelles ou corriger en permanence les fausses nouvelles.
Si les deepfakes sont systématiquement combinés avec des formes organisées de « relations publiques sales », cette tâche devient encore plus difficile en raison de la prolifération d’informations contradictoires, et les fausses nouvelles et les nouvelles négatives seront toujours plus partagées que les nouvelles positives.
Habituellement, lorsqu’ils voient des nouvelles partagées sur les réseaux sociaux, les individus ont souvent l’habitude de confirmer l’information par le biais des canaux médiatiques officiels.
Avec le contenu deepfake qui inonde les médias sociaux, il est de plus en plus difficile et chronophage de vérifier l’exactitude des informations grand public, ce qui nécessite des recherches approfondies et des techniques de vérification.
Plus nous tardons à vérifier les informations et les sources, plus il est probable que des informations fausses, fabriquées ou trompeuses se propagent en raison de la rapidité avec laquelle les partages et les commentaires se font sur les réseaux sociaux.
Cela aggrave le problème sous-jacent et peut potentiellement conduire à des troubles sociaux, en particulier si le contenu porte sur le discours politique, la religion, le genre, la stratégie commerciale ou les questions macroéconomiques.
Dans le contexte de la prolifération des deepfakes, la stratégie de gestion des risques la plus efficace reste de maintenir des canaux de communication cohérents, via des plateformes de médias sociaux populaires, des sites Web ou des réunions en face à face, entre les entreprises, les célébrités, les politiciens et les principales parties prenantes telles que les fans, la presse, les communautés et les employés.
 |
L’utilisation accrue de l’IA apporte à la fois des avantages et de nouveaux problèmes inattendus. Photo d'illustration. (Source : Freepik) |
En maintenant ces canaux de communication, la réception des informations liées aux deepfakes devient plus rapide, ce qui permet une correction rapide et efficace des rumeurs, exposant la désinformation dès le départ.
Cependant, les entreprises, les célébrités et les politiciens doivent élaborer des scénarios de gestion de crise spécifiquement pour les deepfakes. Par exemple, qui a fait l’annonce, par quels canaux médiatiques, les critères de vérification des informations par des preuves et des sources fiables, l’établissement d’un calendrier pour résoudre les rumeurs et la définition d’une stratégie pour restaurer la réputation.
Avec un plan bien préparé et méthodique, la gestion d’une crise deepfake sera plus faisable, minimisant ainsi d’éventuelles conséquences malheureuses.
Source
Comment (0)