La légendaire lutte contre la désinformation, les deepfakes et les escroqueries

(NB&CL) Outre la guerre, la violence armée ou les profondes divisions géopolitiques mondiales, le monde en 2024 continue de faire face à une autre bataille majeure contre la désinformation, les fausses nouvelles et la fraude. Ce problème deviendra une histoire légendaire, difficile à terminer, et il est prévu qu’il deviendra de plus en plus grave si le monde ne s’unit pas pour prendre des mesures drastiques.

Le chaos de l'information : un danger croissant

La perturbation de l’information, en particulier la désinformation et la cyberfraude, est considérée comme une « pandémie mondiale », une bataille commune du monde dans laquelle les organisations de presse traditionnelles, avec leur mission de protection de la vérité, doivent jouer un rôle de pionnier. Cependant, la lutte ne peut réussir que si des mesures drastiques et fondamentales sont prises dans chaque pays et dans les organisations mondiales.

Les fausses nouvelles, la désinformation et surtout les activités frauduleuses sont désormais devenues les conséquences inévitables et les aspects négatifs alors que le monde entre dans une nouvelle ère de communication. Tout simplement, la scène n’est plus réservée aux médias et agences de presse censurés. Comme nous le savons, l’explosion d’Internet, des appareils high-tech et surtout des réseaux sociaux a permis à chacun de devenir un « journaliste », un « reporter » ou encore un « porte-parole » suivi par des millions de personnes.

Les réseaux sociaux, un monde sans règles

Tout a deux côtés. L’explosion des réseaux sociaux a apporté de nombreux avantages, notamment en permettant à l’information et aux connaissances de se diffuser rapidement et largement de manière spectaculaire. De nos jours, les informations sur un accident peuvent atteindre les gens en quelques minutes, même à l’autre bout du monde. Ou encore les informations sur les catastrophes naturelles telles que les inondations, les tempêtes, les incendies de forêt... sont également rapidement mises à jour par les gens via les plateformes de réseaux sociaux ou partagées, contribuant ainsi à diffuser ou à alerter efficacement.

Cependant, malgré leurs aspects positifs, les réseaux sociaux et les plateformes de partage communautaire entraînent des conséquences inquiétantes. Ce qui est encore plus effrayant, c’est que non seulement les humains, mais aussi les machines et surtout la pénétration rapide de l’intelligence artificielle (IA), font du monde Internet en général et des plateformes technologiques en particulier un lieu comportant trop de risques.

« Pandémie d’information » sur les réseaux sociaux

Selon les statistiques publiées par Redline fin juin 2024, il y a 4,9 milliards d'utilisateurs de réseaux sociaux dans le monde. Selon cette enquête menée auprès des Américains, la plupart des utilisateurs des réseaux sociaux ne font pas confiance à l’exactitude des informations diffusées sur ces plateformes, de Facebook à TikTok en passant par YouTube. C'est pourquoi cette organisation a utilisé le terme « infodémie » pour parler de l'état actuel de la désinformation sur les réseaux sociaux.

Le monde des médias sociaux est comme une forêt primitive, sans presque aucune règle. En y vivant, les gens jouissent de fertilité, de liberté et de confort, mais cela s'accompagne de pièges mortels. Jusqu'à présent, presque tous les pays luttent encore pour gérer et organiser cette « forêt primaire », prenant même les premières mesures pour gérer les violations, alors que ce « monde » a recouvert toute l'humanité.

Fin novembre de cette année, l’Australie est devenue le premier pays au monde à introduire officiellement une loi interdisant aux enfants d’entrer dans le monde « primitif », fascinant, mais dangereux et presque sans loi. Plus précisément, l’Australie interdit aux enfants de moins de 16 ans d’utiliser les réseaux sociaux et imposera de lourdes amendes pouvant aller jusqu’à 32 millions de dollars en cas de violation de cette règle.

Dans ce contexte, l’explosion des fake news, de la désinformation et surtout de la fraude sur les réseaux sociaux (ainsi que par le biais d’autres formes de haute technologie comme les applications logicielles, les sites web frauduleux…) continue de devenir un problème mondial. Au Vietnam, nous entendons chaque jour des histoires déchirantes de victimes victimes d’escroqueries sous toutes les formes de cybercriminalité. Dans le monde, c’est aussi un problème qui touche tous les pays.

En mars de cette année, Interpol a signalé que la fraude en ligne en Asie du Sud-Est s’était développée à l’échelle mondiale, rapportant jusqu’à 3 000 milliards de dollars par an (soit l’équivalent du PIB de la France). Même un groupe d'ingénierie britannique a perdu 25 millions de dollars après que des escrocs ont utilisé un deepfake pour se faire passer pour un cadre supérieur afin d'ordonner des transferts d'argent. Ce ne sont bien sûr que quelques exemples des millions d’escroqueries qui existent en ligne.

Faire face à la diffusion de fausses informations sur les réseaux sociaux, mission impossible ?

Bien que les pays et les organisations mondiales déploient des efforts constants pour prévenir ou punir les activités illégales dans le cyberespace, en particulier sur les grandes plateformes sociales telles que TikTok, Facebook ou X, le nombre de cas traités reste encore très faible.

Ce qui est plus remarquable, c’est que jusqu’à présent, presque aucun pays ni aucune organisation n’a tenu les réseaux sociaux responsables d’actes répréhensibles, tels que la diffusion de fausses informations, ou même la violation de la loi. En mai de cette année, Meta a elle-même admis avoir découvert du contenu « potentiellement généré par l’IA » utilisé pour déformer ou escroquer sur ses plateformes Facebook et Instagram. Cette déclaration montre que les réseaux sociaux eux-mêmes prétendent être « innocents » lorsqu’ils diffusent des informations nuisibles, sinon ils ne se seraient pas « auto-avoués » ainsi.

En fait, les grandes entreprises technologiques, telles que Meta, TikTok, Google, Microsoft ou X, ont dû payer des milliards de dollars d'amendes dans le monde entier pour leurs violations, mais elles ne sont liées qu'à des violations des réglementations sur la confidentialité des utilisateurs ou des lois antitrust, et il n'y a eu presque aucune sanction contre elles pour avoir permis que des violations se produisent dans leur « maison ».

L'affaire la plus notable liée à ce domaine est l'arrestation du patron de Telegram, Pavel Durov, en France, accusé d'avoir facilité des activités criminelles diffusées sur cette plateforme de messagerie. Cependant, l'arrestation, qui semble avoir des connotations politiques, a été effectuée en secret. Ce n’est pas comme une affaire judiciaire publique contre un réseau social ou une entreprise normale. En fait, il n'y a jamais eu une seule sanction pour Telegram liée à des activités criminelles sur cette plateforme, même si les Nations Unies ont publié un rapport en octobre 2024 selon lequel cette plateforme est un outil que les gangs criminels utilisent pour des transactions illégales.

Le monde a encore du mal à gérer le problème des fausses nouvelles, de la désinformation et de la fraude sur les plateformes de médias sociaux. Illustration : IJNET

Ainsi, même avec des activités illégales aussi évidentes, il est impossible de gérer les plateformes de médias sociaux ou le partage communautaire, il est clair que le contrôle du contenu toxique, des fausses nouvelles et de la désinformation est extrêmement lointain.

En conséquence, les plateformes non seulement n'ont pas peur, mais montrent de plus en plus de signes d'« action de leur propre chef », lorsqu'elles encouragent des informations controversées, sensationnelles, absurdes ou toxiques pour attirer les téléspectateurs, grâce à leurs algorithmes de plus en plus sophistiqués. Il convient de noter que les grandes entreprises technologiques sont également prêtes à faire pression ou à contester toute mesure visant à les punir sur cette question. Le milliardaire Elon Musk, propriétaire du réseau social X, a exprimé en septembre 2024 son opposition à un nouveau projet de loi australien qui propose d'infliger des amendes aux entreprises de médias sociaux si elles ne parviennent pas à empêcher la désinformation en ligne.

En vertu du projet de loi encore australien, les plateformes Internet pourraient être condamnées à une amende pouvant atteindre 5 % de leur chiffre d’affaires mondial pour avoir diffusé de fausses informations. D'autres grandes plateformes technologiques telles que Google et Meta ont également exprimé leurs inquiétudes et contesté le nouveau projet de loi australien. Il faut noter qu’il s’agit également d’un projet de loi rare au monde qui mentionne la pénalisation des réseaux sociaux s’ils diffusent de fausses informations, des fake news et des activités frauduleuses.

Si l’on considère le monde des médias traditionnels et du journalisme, ce paradoxe est difficile à accepter. Tout le monde sait que si un journal ou une chaîne de télévision commet la moindre erreur professionnelle, sans parler de fournir des informations fausses ou illégales, l’ensemble de l’agence peut être sévèrement puni et, à tout le moins, les lecteurs lui tourneront le dos, et pas seulement le journaliste ou le rédacteur en chef qui a fourni l’information.

La « pandémie mondiale » devient incontrôlable

On peut dire que le problème de la désinformation, des fausses nouvelles, des nouvelles toxiques et de la fraude est plus grave que n’importe quelle guerre ou pandémie, car il peut affecter une génération entière à l’échelle mondiale, en particulier les jeunes. De nombreuses études ont montré à quel point les médias sociaux, en particulier les courtes vidéos addictives de Facebook, TikTok ou Google, sont néfastes pour la santé physique et mentale des enfants.

Dans une étude récente, l’UNICEF a souligné que les réseaux sociaux sont conçus pour capter l’attention des utilisateurs le plus longtemps possible, en exploitant nos préjugés et nos vulnérabilités psychologiques, comme le désir d’approbation ou la peur du rejet. L’utilisation excessive des médias sociaux est liée à des sentiments d’envie, d’infériorité et de faible satisfaction dans la vie. Des études ont même suggéré que cette habitude peut entraîner des symptômes de dépression, d’anxiété et de manque de sommeil, dont le plus typique est la maladie mentale...

La chanteuse Taylor Swift fait partie des célébrités victimes du problème du deepfake de l'IA. Photo : Herbert Wang

La réglementation vietnamienne obligeant les réseaux sociaux à authentifier les utilisateurs entrera en vigueur

Le décret 147/2024/ND-CP sur la gestion, la fourniture et l'utilisation des services Internet et des informations en ligne, récemment publié par le gouvernement vietnamien, entrera en vigueur à partir du 25 décembre 2024. En conséquence, le règlement exige que les réseaux sociaux authentifient les utilisateurs via un numéro de téléphone ou un numéro d'identification personnel et seuls les comptes authentifiés sont autorisés à fournir des informations (écrire des articles, commenter, diffuser en direct) et à partager des informations sur les réseaux sociaux. Ce décret devrait permettre de limiter considérablement la diffusion d’informations fausses et trompeuses et notamment les activités frauduleuses sur les réseaux sociaux.

Il existe de nombreux exemples montrant que la désinformation, les fausses nouvelles et les deepfakes ont de graves répercussions sur la vie réelle, devenant potentiellement une menace mondiale. En août de cette année, des émeutes ont éclaté en raison d'une fausse affirmation diffusée sur les réseaux sociaux selon laquelle le suspect de l'agression au couteau qui a tué une jeune fille au Royaume-Uni était un immigrant musulman radical (qui était en réalité britannique). Les émeutes ont donné lieu à des milliers d’arrestations par la police.

Lors de la tentative d'assassinat de Donald Trump en juillet 2024, le monde des réseaux sociaux a également été inondé de fausses nouvelles et de théories du complot, comme le fait qu'un journaliste italien était considéré comme suspect (en fait, un Américain de 20 ans). Il y a également eu des déclarations erronées sur les réseaux sociaux selon lesquelles le suspect était chinois ou que l’incident était un « scénario mis en scène ». La propagation de la désinformation accroît également la haine à l’égard de chaque conflit et de chaque point chaud dans le monde, comme les guerres entre la Russie et l’Ukraine, entre Israël et la Palestine ou le problème de l’antisémitisme et de l’islamophobie.

De plus, avec l’explosion de l’IA, la lutte contre la désinformation devient incontrôlable. Les outils Deepfake et les modèles d’IA bon marché prolifèrent sans aucun contrôle significatif.

Selon les statistiques de DeepMedia, le nombre de vidéos et de voix deepfake a grimpé en flèche chaque année. Les vidéos deepfake ont plus que triplé et les voix deepfake plus de huit fois en 2023 par rapport à 2022. Parmi celles-ci, on prévoit qu'environ 500 000 vidéos et voix deepfake seront partagées sur les réseaux sociaux dans le monde en 2024.

Début 2024, une série d'images pornographiques générées par l'IA de la chanteuse Taylor Swift s'est répandue sur les réseaux sociaux, provoquant la douleur dans le monde entier. En outre, une série de politiciens du monde entier, dont le président américain Joe Biden et les dirigeants du Royaume-Uni, de l’Inde, du Nigéria, du Soudan, de l’Éthiopie et de la Slovaquie, sont également devenus victimes du problème de l’usurpation d’identité par deepfake.

Ainsi, le problème des fausses nouvelles, de la désinformation et surtout des activités frauduleuses dans le cyberespace devient de plus en plus grave. À l’ère de l’IA qui s’annonce, cette « pandémie mondiale » pourrait devenir incontrôlable sans les efforts conjoints du monde entier, en particulier des décideurs politiques de chaque pays, pour l’empêcher.

Hoang Hai

Source : https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html