Le contenu toxique généré par l'IA est omniprésent sur TikTok

Khi AI vẽ ma cà rồng — Quand l'IA dessine des vampires

Les utilisateurs de TikTok monétisent de plus en plus de vidéos qui promeuvent des « théories du complot » infondées sur la fin du monde, selon un rapport de l'organisation à but non lucratif Media Matters.

C'est la dernière illustration de la façon dont la désinformation se propage à une vitesse vertigineuse sur la plateforme - un problème difficile qui est revenu à plusieurs reprises dans les récents débats politiques, en particulier alors que les législateurs américains envisagent d'interdire l'application pour des raisons de sécurité nationale.

Les vidéos malveillantes avec une musique de fond effrayante, accompagnées d'images et utilisant même les voix de célébrités créées par l'intelligence artificielle (IA), attirent souvent des millions de vues sur TikTok. En particulier, les vidéos de théories du complot sont souvent publiées par des comptes anonymes.

La chercheuse de TikTok, Abbie Richards, a déclaré que de telles vidéos pourraient être financièrement avantageuses pour les créateurs de TikTok, grâce à un programme de création sur la plateforme.

Cette « industrie artisanale » est alimentée par des outils d’IA largement disponibles et gratuits.

De son côté, un porte-parole de TikTok a souligné que « les théories du complot ne sont pas éligibles à la monétisation ou à la recommandation » dans les flux des utilisateurs.

La personne a affirmé que les informations malveillantes seraient interdites et que l'équipe de sécurité en supprimerait proactivement 95 % avant de recevoir les rapports des utilisateurs.

Les inquiétudes concernant la désinformation générée par l’IA sont particulièrement élevées cette année, alors que des élections majeures devraient avoir lieu dans le monde entier.

L’Europe et l’Amérique ont toutes deux peur de TikTok

La semaine dernière, l’Union européenne (UE) a utilisé la loi sur les services numériques (DSA) pour faire pression sur plusieurs plateformes, dont TikTok, afin qu’elles s’attaquent aux risques de l’IA qui pourraient avoir un impact négatif sur les prochaines élections dans le bloc des 27 pays.

Aux États-Unis, qui compte environ 170 millions d’utilisateurs de TikTok, les législateurs ont également massivement soutenu la semaine dernière un projet de loi visant à interdire TikTok.

Le projet de loi, adopté par la Chambre des représentants le 13 mars, oblige la société mère ByteDance à prendre des mesures pour abandonner le contrôle de l'application TikTok dans les 180 jours, sinon l'application sera bannie des magasins d'applications Apple et Google aux États-Unis.

Il s’agit de la plus grande menace à ce jour pour l’application de partage de vidéos TikTok, devenue très populaire dans le monde entier, en raison d’allégations de violation du droit d’auteur et d’utilisation abusive des données des utilisateurs. TikTok a nié à plusieurs reprises ces allégations.

Source