Méfiez-vous des méchants qui utilisent l'IA pour transplanter le visage des victimes afin de menacer et de faire chanter

Contrairement à la période précédente où l'accès aux outils artificiels pour créer des vidéos Deepfake était assez limité, de nombreux outils d'IA tels que Grok, ChatGPT, Meta AI, Gemeni, DeepSeek ont ​​été largement diffusés et permettent l'utilisation gratuite des fonctionnalités de base, y compris la création d'images. Les utilisateurs peuvent créer la forme souhaitée ou même recadrer et modifier sans avoir besoin de comprendre des techniques de traitement spécialisées. Cela a conduit à une augmentation de l’utilisation de l’IA pour créer des visages à des fins allant du divertissement aux menaces sur Internet.

Mme YN (District 1, Ho Chi Minh-Ville) a déclaré qu'elle avait été victime d'une manipulation d'image basée sur l'IA pour menacer les gens et qu'on lui avait demandé de payer une grosse somme d'argent si elle voulait récupérer des données « sensibles », même si elles avaient toutes été créées par des outils d'intelligence artificielle. Plus précisément, ses images personnelles ont été collectées par des criminels et leurs visages ont été édités dans un contenu malveillant, des discussions sensibles ont été créées, puis ils ont recherché Mme YN pour la faire chanter.

Les criminels utilisent l'IA pour éditer, recadrer et faire chanter leurs victimes

« Ils m'ont montré des captures d'écran des fausses conversations, images et vidéos qu'ils avaient créées et m'ont demandé 100 millions de VND pour supprimer le contenu. Je dois admettre que ces images composites sont impossibles à identifier comme vraies ou fausses », a déclaré la victime, ajoutant avoir signalé ce comportement aux autorités.

Le cas de Mme YN n’est qu’un des nombreux incidents récents impliquant l’utilisation abusive de l’IA et des outils d’édition d’images à des fins malveillantes. Actuellement, les utilisateurs des réseaux sociaux au Vietnam sont encore très « insouciants » lorsqu'il s'agit de partager des images personnelles, des amis et des proches en ligne et publiquement, malgré de nombreux avertissements d'experts dans le domaine de la sécurité de l'information sur ce problème.

Récemment, le ministère de la Sécurité publique a également envoyé un avertissement aux utilisateurs de téléphones portables concernant l'émergence de criminels profitant des images et des vidéos de personnes disponibles publiquement sur Internet, puis les éditant, les coupant et les combinant pour créer du contenu sensible dans le but de menacer et de faire chanter. « Il est conseillé à la population d'être vigilante lorsqu'elle reçoit des messages ou des appels contenant le contenu susmentionné, et de ne pas transférer d'argent en cas de menace. En cas de détection de signes de fraude ou d'extorsion de biens, il est conseillé de signaler rapidement les faits au service de police le plus proche via l'application VNeID », précise l'avis.

Outre l'objectif de chantage, les criminels peuvent également utiliser de nombreuses images et vidéos personnelles publiques de la victime pour créer de faux contenus afin de diffamer la réputation dans l'environnement de travail, de se venger personnellement et de porter atteinte à l'esprit et à l'honneur. Il est à noter que ces faux documents sont de plus en plus sophistiqués et difficiles à distinguer, tant pour le citoyen moyen que pour ceux qui s’intéressent au domaine de l’intelligence artificielle.

Une étude menée par Tidio - une société polonaise spécialisée dans le développement de chatbots IA pour soutenir les ventes - à la fin de l'année dernière a montré que la majorité des internautes ont de plus en plus de difficultés à distinguer les images créées par l'IA. L'entreprise affirme que jusqu'à 87 % des participants ont confondu les photos de l'IA avec des photos de vraies personnes. De plus, 62 % des répondants ont exprimé leur intérêt pour l’IA et l’apprentissage automatique, mais la moitié de ce groupe n’a pas réussi à identifier correctement les images générées par l’intelligence artificielle.

Il n’existe actuellement aucune réglementation spécifique concernant l’utilisation de l’IA dans la cybercriminalité, mais l’utilisation des images d’autres personnes pour menacer, faire chanter ou diffuser de fausses informations peut toujours être traitée en vertu des dispositions relatives au crime d’humiliation d’autrui, d’extorsion de biens ou de diffusion de produits culturels obscènes.

Face à cette situation, les experts recommandent aux utilisateurs d'être prudents lorsqu'ils partagent des images personnelles sur les réseaux sociaux et d'utiliser des outils de sécurité pour contrôler la confidentialité.

Source : https://thanhnien.vn/canh-giac-ke-xau-loi-dung-ai-ghep-mat-nan-nhan-de-de-doa-tong-tien-185241107153341681.htm