Attention à l'IA qui crée de fausses images et voix pour escroquer de l'argent en ligne

Nguyen Thanh Huong (le nom du personnage a été changé) est un employé de bureau à Hanoi. Lors d'une conversation avec un ami via Facebook Messenger, l'ami de Huong a dit au revoir et a mis fin à la conversation, mais est soudainement revenu au texte, demandant à emprunter de l'argent et suggérant de transférer de l'argent sur un compte bancaire.

Cảnh giác AI tạo hình ảnh và giọng nói giả mạo để lừa tiền trên mạng- Ảnh 1. — Les deepfakes sont utilisés par les pirates informatiques pour commettre des fraudes en ligne

Même si le nom du compte correspondait au nom de son amie, Huong était toujours méfiante et a donc demandé un appel vidéo pour vérifier. L'ami a immédiatement accepté, mais l'appel n'a duré que quelques secondes en raison de « l'instabilité d'Internet », selon l'explication de l'ami. Après avoir vu le visage de son amie dans l'appel vidéo, et la voix était également celle de cette personne, Huong n'a plus douté et a transféré l'argent. Cependant, ce n'est qu'après le transfert d'argent réussi que Huong a réalisé qu'elle était tombée dans le piège du pirate informatique.

Non seulement Huong, mais de nombreuses autres victimes, amis et proches de l'ami de Huong, ont également été trompées de la même manière. Le montant d'argent que les méchants ont escroqué sur ce compte Facebook s'élevait à des dizaines de millions de dongs.

Au cours du second semestre 2023, la société de sécurité Bkav a continuellement reçu des rapports et des demandes d'aide de victimes concernant des cas de fraude similaires. Selon les experts de Bkav, dans le cas de Huong, les méchants ont pris le contrôle du compte Facebook mais ne l'ont pas immédiatement pris complètement, mais ont secrètement suivi, attendant une opportunité de se faire passer pour une victime pour demander à emprunter de l'argent à leurs amis et à leurs proches. Ils utilisent l'IA pour créer une fausse vidéo du visage et de la voix du propriétaire du compte Facebook (Deepfake). Lorsqu'on leur a demandé de passer un appel vidéo pour authentification, ils ont accepté l'appel, mais se sont ensuite rapidement déconnectés pour éviter d'être détectés.

M. Nguyen Tien Dat, directeur général du centre de recherche antimalware de Bkav, a déclaré : « La capacité de collecter et d'analyser les données des utilisateurs grâce à l'IA permet de créer des stratégies de fraude sophistiquées. Cela signifie également que la complexité des scénarios de fraude combinés à Deepfake et GPT augmentera, rendant la détection des fraudes beaucoup plus difficile. »

Bkav recommande aux utilisateurs d'être particulièrement vigilants, de ne pas fournir d'informations personnelles (CCCD, compte bancaire, code OTP...), de ne pas transférer d'argent à des inconnus via téléphone, réseaux sociaux, sites Web présentant des signes de fraude. Lorsqu'une demande d'emprunt/transfert d'argent sur un compte est effectuée via les réseaux sociaux, d'autres méthodes d'authentification doivent être utilisées, comme l'appel ou l'utilisation d'autres canaux de communication pour reconfirmer.

Lien source