Les enfants risquent de devenir victimes de l'IA lorsque leurs parents publient des photos en ligne

L'ère de l'explosion de l'information et de la connexion sur les réseaux sociaux en particulier et sur Internet en général a amené de nombreuses personnes à prendre l'habitude de partager toutes les émotions et les événements de leur vie personnelle sur le cyberespace sans anticiper les dangers que cela représente. Non seulement ils publient des photos et des vidéos d’eux-mêmes en ligne, mais de nombreux adultes prennent également l’initiative de publier du contenu contenant des visages ou des voix d’enfants sans autorisation. Une fois ces images et vidéos publiées en ligne, toute personne y ayant accès peut les utiliser sans aucune restriction.

En juillet dernier, l’opérateur de réseau allemand Deutsche Telekom a publié une publicité hypothétique montrant comment les images d’enfants publiées en ligne peuvent être détournées, en utilisant l’IA (intelligence artificielle) à des fins différentes. Intitulé Un message d'Ella, le clip utilise l'IA et le Deepfake pour créer une version adulte d'Ella à partir d'images et de vidéos de la jeune Ella publiées en ligne par ses parents.

"Ella người lớn" được AI tạo ra từ hình ảnh đăng trên mạng xã hội của cô bé Ella 9 tuổi — « Adult Ella » créée par l'IA à partir d'images de réseaux sociaux d'Ella, 9 ans, dans la vidéo d'avertissement de Deutsche Telekom

« AI Ella » peut bouger et parler comme une vraie personne, ce qui a choqué ses parents lorsqu'ils ont vu l'image de leur fille sur le grand écran du cinéma. Elle peut même pleurer et s’exprimer comme un humain.

« Je sais que pour vous, ces photos sont des souvenirs. Mais pour d'autres, ce sont des données. Et pour moi, elles pourraient être le début d'un avenir terrible où mon identité pourrait être volée, où je pourrais finir en prison pour des choses que je n'ai pas faites… Ce que vous partagez en ligne sont des étapes numériques qui me suivront toute ma vie », a partagé Ella, personnage d'IA.

Avec une seule photo partagée, l’IA peut créer une version adulte d’une fille de 9 ans. Deepfake extrait les voix des vidéos et les transforme en voix adultes. Les images et les vidéos peuvent être complètement falsifiées et les données d’identification personnelle deviennent des informations précieuses qui peuvent être volées à des fins illégales. Et ce n'est pas tout, les méchants peuvent utiliser des images collectées en ligne pour les copier-coller, utiliser l'IA pour créer de la pornographie infantile ou des séries de photos qui se moquent, diffament et déforment la vérité...

« Des études récentes montrent qu'un enfant de cinq ans a en moyenne environ 1 500 photos publiées en ligne sans son consentement, publiées par la personne en qui il a le plus confiance : sa mère ou son père », a déclaré Christian Loefert, responsable de la communication et du marketing chez Deutsche Telekom.

Selon The New Yorker, les experts estiment que d’ici 2030, les deux tiers des vols d’identité seront causés par le partage incontrôlé de photos sur les réseaux sociaux. Deutsche Telekom a également cité un rapport montrant que plus de 75 % des parents partagent désormais des données sur leurs enfants sur les réseaux sociaux. Parallèlement, huit parents sur dix ont des membres des réseaux sociaux qui suivent leurs comptes et qu’ils n’ont jamais rencontrés dans la vraie vie.

Récemment, le développement d’outils d’IA est devenu de plus en plus « populaire », atteignant les utilisateurs ordinaires via une série d’applications sur les appareils mobiles. Au lieu d’être prudents avec ces programmes, de nombreuses personnes fournissent négligemment des photos personnelles ou familiales à publier sur les réseaux sociaux. Cette action fournit par inadvertance aux IA une énorme quantité de données gratuites pour en apprendre davantage sur les gens, de la structure du visage à l’environnement qui les entoure.

De nombreux experts en sécurité avertissent que dans toutes les situations, même avec les nouvelles tendances, les utilisateurs doivent toujours être prudents et ne pas échanger de données personnelles, en particulier leurs données faciales et celles de leurs proches, contre quelques minutes de plaisir sur les réseaux sociaux.

Lien source