Alors que les progrès technologiques continuent de façonner les médias sociaux et les médias de masse, les deepfakes deviennent une préoccupation majeure car le nombre d’escroqueries deepfake continue d’augmenter.
Les deepfakes peuvent être utilisés à de mauvaises fins
Après avoir effectué des recherches sur les forums du darknet, où opèrent souvent les cybercriminels, Kaspersky a déterminé que de nombreux criminels utilisent les deepfakes pour frauder, à tel point que la demande dépasse de loin l'offre de logiciels. Aucun logiciel deepfake n'est disponible sur le marché.
Alors que la demande dépasse l’offre, les experts de Kaspersky prédisent que les escroqueries deepfake vont se multiplier sous des formes plus diverses et plus sophistiquées. Depuis la fourniture d'une vidéo d'usurpation d'identité de haute qualité avec des services de production complets jusqu'à l'utilisation d'images de célébrités dans de faux flux en direct sur les réseaux sociaux et la promesse d'un double paiement du montant d'argent que la victime leur a envoyé.
« Les deepfakes sont devenus un cauchemar pour les femmes et la société. Les cybercriminels exploitent désormais l'intelligence artificielle (IA) pour greffer les visages des victimes dans des photos et des vidéos pornographiques ainsi que dans des campagnes de propagande. Ces formes visent à manipuler l'opinion publique en diffusant de fausses informations ou « Les attaques informatiques peuvent porter atteinte à la réputation d'une organisation ou d'un individu. Nous appelons le public à être plus vigilant face à cette menace », a déclaré Mme Vo Duong Tu Diem, directrice régionale de Kaspersky au Vietnam.
Selon Regula, un système de référence d'information, jusqu'à 37 % des entreprises dans le monde ont été confrontées à des escroqueries vocales deepfake et 29 % ont été victimes de vidéos deepfake. Les deepfakes sont devenus une menace pour la cybersécurité au Vietnam, où les cybercriminels utilisent souvent des appels vidéo deepfakes pour se faire passer pour une personne et emprunter de grosses sommes d'argent à leurs proches et amis pour les frais de scolarité. De plus, un appel vidéo deepfake peut être effectué en seulement une minute, ce qui rend difficile pour les victimes de faire la différence entre un vrai et un faux appel.
Alors que l’IA est utilisée abusivement par des criminels à des fins malveillantes, les particuliers et les entreprises peuvent toujours l’utiliser pour identifier les deepfakes afin de réduire la probabilité de réussite des escroqueries.
Kaspersky partage des solutions pour que les utilisateurs puissent se protéger des escroqueries deepfake :
Outils de détection de contenu IA : le logiciel de détection de contenu basé sur l'IA utilise des algorithmes d'IA avancés pour analyser et déterminer le niveau de manipulation des fichiers image, vidéo et audio. Pour les vidéos deepfake, certains outils aident à détecter les mouvements de la bouche et les paroles incompatibles. Certains outils détectent un flux sanguin anormal sous la peau en analysant la résolution de la vidéo car lorsque le cœur pompe le sang, les veines humaines changent de couleur.
Contenu IA filigrané : les filigranes agissent comme des marques d'identification dans les images, les vidéos, etc. pour aider les auteurs à protéger les droits d'auteur des œuvres d'IA. Cependant, l’outil pourrait devenir une arme contre les deepfakes car il pourrait aider à retracer l’origine de la plateforme qui a créé l’IA.
Provenance du contenu : Étant donné que l’IA collecte de grandes quantités de données provenant de diverses sources pour créer du nouveau contenu, cette approche vise à retracer l’origine de ce contenu.
Authentification vidéo : c'est le processus de vérification que le contenu vidéo n'a pas été modifié depuis sa création. C’est le processus qui préoccupe le plus les créateurs de vidéos. Certaines technologies émergentes utilisent des algorithmes cryptographiques pour insérer des valeurs de hachage à intervalles définis dans la vidéo. Si la vidéo a été modifiée, la valeur de hachage sera modifiée.
Lien source
Comment (0)