Les fausses nouvelles deviennent de plus en plus sophistiquées grâce à la manipulation de l'IA
Récemment, lors de la réunion entre l'Association des journalistes du Vietnam et l'Association des journalistes thaïlandais qui s'est tenue à Hanoi, les dirigeants des deux associations ont passé la majeure partie de leur temps à évoquer le problème des « fausses nouvelles » et ont déclaré qu'il ne s'agissait plus d'un problème national mais d'un problème majeur, entraînant des impacts imprévisibles sur la région et le monde.
Selon une étude menée par Google DeepMind, la création d’images, de vidéos et d’audios imitant des humains est presque deux fois plus courante que la création de fausses informations à l’aide d’outils tels que les chatbots IA.
Des deepfakes du chancelier britannique Rishi Sunak et d'autres dirigeants mondiaux sont apparus sur TikTok, X et Instagram ces derniers mois. Certains craignent que, malgré les efforts déployés par les médias sociaux pour étiqueter ou supprimer ce type de contenu, le public ne le reconnaisse pas comme faux et que sa diffusion puisse influencer les électeurs.
Des faux portraits du Premier ministre britannique Rishi Sunak sont apparus sur TikTok et Instagram avant les élections générales. (Photo: AFP)
Évaluer l'impact des fausses nouvelles à l'ère de la technologie, Ths. Luong Dong Son, professeur à l'Institut de journalisme et de communication de l'Académie de journalisme et de propagande, a déclaré que le produit de la combinaison de l'IA et de la désinformation, également connu sous le nom de fausses nouvelles surréalistes, peut déformer la perception publique des événements et des problèmes sociaux, affectant ainsi la façon dont ils évaluent la situation et prennent des décisions. Cela peut avoir de graves conséquences, allant de petites décisions personnelles à des décisions majeures qui affectent les communautés et les nations.
Les fausses nouvelles surréalistes peuvent être utilisées comme un outil pour manipuler l’opinion publique, inciter à la violence, semer la division et saper la stabilité sociale. Dans l’arène politique, les fausses nouvelles surréalistes peuvent éroder la confiance dans les institutions démocratiques, influencer les résultats des élections et même inciter au conflit.
Sur les défis auxquels sont confrontés les journalistes et les organisations de presse, Ths. La sophistication des fausses informations hyperréalistes, en particulier les deepfakes, rend de plus en plus difficile la distinction entre le vrai et le faux, même pour les journalistes expérimentés, a déclaré Luong Dong Son.
« À l’ère de l’explosion de l’information, le public exige de plus en plus que les journalistes et les organes de presse fournissent des informations rapides et précises. Cependant, cette pression peut amener les journalistes à publier des informations à la hâte sans les vérifier soigneusement, ce qui crée des opportunités pour la propagation de fausses nouvelles surréalistes. En outre, les journalistes et les organes de presse s’exposent à des risques juridiques et éthiques s’ils ne font pas attention à la vérification et à la publication des informations », a déclaré M. Son.
Demandez à l'IA de vérifier les informations
D'après Ths. Luong Dong Son, pour faire face à ce type de fausses nouvelles, l'application de solutions technologiques modernes est extrêmement nécessaire.
« Ces solutions ne se concentrent pas seulement sur la détection et l'élimination des fausses nouvelles, mais aussi sur leur prévention dès les premières étapes de leur production », a déclaré Dong Son, MSc.
Premièrement, l’une des technologies les plus importantes aujourd’hui, selon M. Son, est l’utilisation de systèmes d’intelligence artificielle pour détecter les fausses nouvelles surréalistes. Les systèmes d’IA modernes sont capables d’analyser le contexte, de rassembler des informations provenant de plusieurs sources et de détecter des anomalies dans le contenu des informations. Un bon exemple est l’utilisation de l’IA pour analyser des vidéos et des images afin de détecter des signes de montage ou de production de deepfake.
De plus, les plateformes de médias sociaux et les moteurs de recherche déploient activement des algorithmes d’apprentissage automatique pour classer et filtrer automatiquement les contenus de fausses nouvelles avant qu’ils ne deviennent viraux. Ces algorithmes sont conçus pour reconnaître des signes inhabituels dans les modèles de partage, la viralité ou même le ton des publications, et évaluer la probabilité que les informations soient fausses.
De plus, l’utilisation de la technologie blockchain pour gérer la provenance des informations est également une solution potentielle. La blockchain a le potentiel de créer un système d’authentification transparent et immuable, qui permet de suivre l’origine et l’historique de toutes les informations, garantissant ainsi leur exactitude et leur fiabilité.
L’IA peut créer du faux contenu ou des informations et images trompeuses, difficiles à distinguer, causant de graves dommages à la réputation des individus et des organisations, et portant même préjudice aux intérêts nationaux et ethniques.
D'accord avec Ths. Luong Dong Son, M. Phan Van Tu - Chef du département de journalisme - Faculté de journalisme et de communication, Université des sciences sociales et humaines, Hô Chi Minh-Ville. HCM a souligné qu'en plus de fournir des compétences pour exploiter les atouts de l'IA pour le journalisme, nous devons également utiliser des outils d'IA pour vérifier les informations.
La vérification de la source, qui consiste essentiellement à évaluer la fiabilité d’une source, est une compétence importante qui implique de vérifier la source de l’information, de la comparer avec d’autres sources et d’utiliser des outils de vérification des faits pour vérifier la fiabilité.
Il est intéressant de noter qu'il existe désormais de nombreux outils intégrés à l'IA qui aident les journalistes dans le processus de vérification, en plus des outils traditionnels qui prennent en charge les vérificateurs de faits tels que Google Image, la recherche d'images inversée Tineye, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...
M. Phan Van Tu a déclaré que la formation des compétences professionnelles des journalistes dans la période actuelle nécessite de se concentrer sur la fourniture de capacités de vérification des informations contre les attaques de fausses nouvelles manipulées par l'IA. « L'utilisation d'outils d'IA pour corriger les erreurs d'IA est le moyen le plus rapide d'aider les journalistes et les agences de presse non seulement à bien remplir leur rôle, mais également à contribuer à améliorer la qualité de l'information et à protéger le public contre la désinformation et les impacts négatifs des médias », a déclaré M. Tu.
M. Tu a toutefois également souligné que la capacité des journalistes à évaluer l’information ne peut pas reposer uniquement sur des outils. Il faut dire d’emblée que l’IA peut aider à analyser le contenu des informations, mais ne peut pas détecter tous les types de fausses nouvelles et d’informations manipulées. Les logiciels d’IA peuvent toujours être trompés par les techniques d’IA qu’ils utilisent pour détecter.
« Aucun outil n'est une baguette magique, mais les outils d'IA qui détectent les fausses photos/vidéos restent une ressource précieuse dans le cadre d'un processus de vérification ou d'une méthode de diligence raisonnable », a déclaré Phan Van Tu.
Hoa Giang
Source : https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html
Comment (0)