Utilisation d'outils d'IA pour résoudre les défaillances des produits basés sur l'IA

Les fausses nouvelles deviennent de plus en plus sophistiquées grâce à la manipulation de l'IA

Récemment, lors de la réunion entre l'Association des journalistes du Vietnam et l'Association des journalistes thaïlandais qui s'est tenue à Hanoi, les dirigeants des deux associations ont passé la majeure partie de leur temps à évoquer le problème des « fake news » et ont déclaré qu'il ne s'agissait plus d'un problème national mais d'un problème majeur, provoquant des impacts imprévisibles sur la région et le monde.

Selon une étude de Google DeepMind, la création d’images, de vidéos et d’audios imitant des humains est presque deux fois plus courante que la création de désinformation à l’aide d’outils tels que les chatbots IA.

Des deepfakes du chancelier britannique Rishi Sunak et d'autres dirigeants mondiaux sont apparus sur TikTok, X et Instagram ces derniers mois. Certains craignent que, malgré les efforts des médias sociaux pour étiqueter ou supprimer ce type de contenu, le public ne le reconnaisse pas comme faux et que sa diffusion puisse influencer les électeurs.

Des faux portraits du Premier ministre britannique Rishi Sunak sont apparus sur TikTok et Instagram avant les élections générales. (Photo : AFP)

Évaluer l’impact des fausses nouvelles à l’ère de la technologie, Ths. Luong Dong Son, professeur à l'Institut de journalisme et de communication de l'Académie de journalisme et de propagande, a déclaré que le produit de la combinaison de l'IA et de la désinformation, également connu sous le nom de fausses nouvelles surréalistes, peut déformer la perception publique des événements et des problèmes sociaux, affectant ainsi la façon dont ils évaluent la situation et prennent des décisions. Cela peut avoir de graves conséquences, allant de petites décisions personnelles à des décisions majeures qui affectent les communautés et les nations.

Les fausses nouvelles surréalistes peuvent être utilisées comme un outil pour manipuler l’opinion publique, inciter à la violence, semer la division et saper la stabilité sociale. Dans l’arène politique, les fausses nouvelles surréalistes peuvent éroder la confiance dans les institutions démocratiques, influencer les résultats des élections et même inciter au conflit.

Sur les défis pour les journalistes et les organisations de presse, Ths. La sophistication des fausses informations hyperréalistes, en particulier les deepfakes, rend de plus en plus difficile la distinction entre le vrai et le faux, même pour les journalistes expérimentés, a déclaré Luong Dong Son.

« À l'ère de l'explosion de l'information, le public exige de plus en plus des journalistes et des médias qu'ils fournissent des informations rapides et précises. Cependant, cette pression peut conduire les journalistes à publier des informations à la hâte sans les vérifier soigneusement, créant ainsi des opportunités de propagation de fausses informations surréalistes. De plus, les journalistes et les médias s'exposent à des risques juridiques et éthiques s'ils ne vérifient pas et ne publient pas les informations avec soin », a déclaré M. Son.

Demandez à l'IA de vérifier les informations

Selon Ths. Luong Dong Son, pour faire face à ce type de fausses nouvelles, l'application de solutions technologiques modernes est extrêmement nécessaire.

« Ces solutions ne se concentrent pas seulement sur la détection et l'élimination des fausses nouvelles, mais aussi sur leur prévention dès les premières étapes de production », a déclaré MSc. Dong Son.

Tout d’abord, l’une des technologies les plus importantes aujourd’hui, selon M. Son, est l’utilisation de systèmes d’intelligence artificielle pour détecter les fausses nouvelles surréalistes. Les systèmes d’IA modernes sont capables d’analyser le contexte, de rassembler des informations provenant de plusieurs sources et de détecter des anomalies dans le contenu des informations. Un bon exemple est l’utilisation de l’IA pour analyser des vidéos et des images afin de détecter des signes de montage ou de production deepfake.

Ensuite, les plateformes de médias sociaux et les moteurs de recherche déploient également activement des algorithmes d’apprentissage automatique pour classer et filtrer automatiquement le contenu des fausses nouvelles avant qu’il ne devienne viral. Ces algorithmes sont conçus pour reconnaître des signes inhabituels dans les modèles de partage, la viralité ou même le ton des publications, et évaluer la probabilité que les informations soient fausses.

De plus, l’utilisation de la technologie blockchain pour gérer la provenance des informations est également une solution potentielle. La blockchain a le potentiel de créer un système d’authentification transparent et immuable, qui permet de suivre l’origine et l’historique de toutes les informations, garantissant ainsi leur exactitude et leur fiabilité.

L’IA peut créer de faux contenus ou des informations et images trompeuses difficiles à distinguer, causant de graves dommages à la réputation des individus et des organisations, et portant même atteinte aux intérêts nationaux et ethniques.

Je suis d'accord avec Ths. Luong Dong Son, M. Phan Van Tu - Chef du département de journalisme - Faculté de journalisme et de communication, Université des sciences sociales et humaines, HCMV. HCM a souligné qu'en plus de fournir des compétences pour exploiter les atouts de l'IA pour le journalisme, nous devons également utiliser des outils d'IA pour vérifier les informations.

La vérification de la source, qui consiste essentiellement à évaluer la fiabilité d’une source, est une compétence importante qui implique de vérifier la source de l’information, de la comparer avec d’autres sources et d’utiliser des outils de vérification des faits pour vérifier la fiabilité.

Il est intéressant de noter qu'il existe désormais de nombreux outils intégrés à l'IA qui aident les journalistes dans le processus de vérification, en plus des outils traditionnels qui prennent en charge les vérificateurs de faits tels que Google Image, la recherche d'images inversée Tineye, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...

M. Phan Van Tu a déclaré que la formation des compétences professionnelles des journalistes dans la période actuelle nécessite de se concentrer sur la fourniture de capacités de vérification des informations contre les attaques de fausses nouvelles manipulées par l'IA. « L'utilisation d'outils d'IA pour corriger les erreurs d'IA est le moyen le plus rapide d'aider les journalistes et les agences de presse non seulement à bien remplir leur rôle, mais également à contribuer à améliorer la qualité de l'information et à protéger le public contre la désinformation et les impacts négatifs des médias », a déclaré M. Tu.

Toutefois, M. Tu a également souligné que la capacité des journalistes à évaluer l’information ne peut pas reposer uniquement sur des outils. Il faut dire d’emblée que l’IA peut aider à analyser le contenu des informations, mais ne peut pas détecter tous les types de fausses nouvelles et d’informations manipulées. Les logiciels d’IA peuvent toujours être trompés par les techniques d’IA qu’ils utilisent pour détecter.

« Aucun outil n’est une baguette magique, mais les outils d’IA qui détectent les fausses photos/vidéos restent une ressource précieuse dans le cadre d’un processus de vérification ou d’une méthode de diligence raisonnable », a déclaré Phan Van Tu.

Hoa Giang

Source : https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html