La technologie de l’IA présente de nombreux risques pour les enfants en ligne

DNVN - M. Do Duong Hien - un expert de ChildFund Vietnam, a déclaré que l'IA apporte de nombreux avantages mais présente également de nombreux risques potentiels pour les enfants sur Internet.

S'exprimant lors de l'atelier « Promouvoir la coopération dans la protection des enfants dans l'environnement en ligne » organisé par l'Association vietnamienne de sécurité de l'information en collaboration avec le Département de la sécurité de l'information (ministère de l'Information et des Communications) le 21 novembre à Hanoi, les experts ont déclaré que dans le contexte du développement rapide des technologies numériques et de leur transformation en outil de travail et de divertissement indispensable dans la vie quotidienne de chaque personne, les risques pour la sécurité, la sûreté et la confidentialité des informations augmentent également.

Pour les enfants, ces dangers et ces risques deviennent encore plus évidents lorsqu’ils ne disposent pas des compétences suffisantes pour les identifier et les prévenir. Ce sont des défis non seulement pour le Vietnam mais aussi pour de nombreux autres pays du monde. Par conséquent, la protection des enfants et le renforcement de la coopération et de la connectivité dans le cyberespace pour protéger et autonomiser les enfants sont également des questions soulevées à l’échelle mondiale.

M. Dang Vu Son - Vice-président de la VNISA.

M. Dang Vu Son, vice-président de la VNISA et ancien chef du Comité gouvernemental de chiffrement, a déclaré : « Dans ce contexte, le programme « Protéger et soutenir les enfants pour qu'ils interagissent de manière saine et créative dans l'environnement en ligne au cours de la période 2021-2025 » a créé une force motrice pour promouvoir la participation active des agences d'État, des organisations sociales et des entreprises. Toutefois, dans la pratique, il existe encore des limites en matière de connexion et de coordination entre les parties concernées, ce qui affecte considérablement l’efficacité du travail de protection de l’enfance dans le cyberespace.

Selon M. Son, la VNISA s’est engagée à travailler avec les agences de gestion de l’État, les organisations internationales et les entreprises pour mettre en œuvre des initiatives visant à protéger les enfants dans l’environnement en ligne. Ces derniers temps, l’Association a mené de nombreuses activités.

« Nous sommes convaincus que la connexion et la coopération sont essentielles pour relever les défis et améliorer l'efficacité de la protection des enfants dans le cyberespace. La VNISA s'engage à poursuivre ses efforts et à collaborer étroitement avec ses partenaires nationaux et étrangers afin de créer un cyberenvironnement véritablement sûr et durable pour la jeune génération », a ajouté M. Dang Vu Son.

En parlant de l'impact de l'intelligence artificielle (IA) sur les enfants en ligne, M. Do Duong Hien, expert de ChildFund Vietnam, a déclaré que l'IA se développe fortement, apportant des avantages mais présentant également de nombreux risques potentiels pour les enfants sur Internet.

« L'IA encourage et favorise la créativité et l'initiative des enfants. L'IA générative peut leur fournir des outils créatifs pour s'exprimer par la composition, l'art et la musique. Elle peut les aider à explorer et à découvrir de nouveaux domaines, élargissant ainsi leurs connaissances et leurs compétences », a mentionné M. Hien, tout en mettant en garde contre les inconvénients : « C'est le problème de la production de contenus inappropriés. Les outils/algorithmes d'IA des fournisseurs de plateformes peuvent fournir des contenus inappropriés et préjudiciables. De plus, l'IA générative peut être utilisée pour créer de la désinformation ou des fausses nouvelles qui affectent les capacités cognitives et comportementales des enfants, ainsi que leur développement. »

Cependant, l’IA peut également jouer un rôle en tant qu’outil de protection des enfants et de surveillance du contenu en ligne. L’IA a la capacité de détecter, de supprimer et d’avertir rapidement des contenus nuisibles ou inappropriés sur les réseaux sociaux et les plateformes Internet. Détecter et signaler le matériel d'abus sexuel sur mineur (CSAM) : applications et logiciels qui prennent en charge la détection de documents et de contenus CSAM et le signalement ou le blocage directement sur le système. Les outils d’IA peuvent aider à détecter les comportements violents.

M. Ngo Tuan Anh, vice-président de la VNISA, président du club VCSC (troisième à partir de la droite).

Évoquant les activités récentes de protection des enfants en ligne, M. Ngo Tuan Anh, vice-président de la VNISA et président du Club VCSC, a déclaré : « La norme de base TCCS:03 de la VNISA, publiée en juin 2024, constitue une étape importante dans la promotion de l'écosystème de produits et services de protection des enfants en ligne. Cette norme contribue également à évaluer la qualité des produits et services de protection des enfants en ligne, afin d'aider les utilisateurs et les parents à choisir ces produits et services en toute sécurité. Elle servira de base pour encourager les entreprises, les organisations et un grand nombre d'utilisateurs à s'unir pour protéger leurs enfants des dangers et des risques du cyberespace. »

Mme Phan Thi Kim Lien, responsable du programme de protection et de participation des enfants de World Vision International au Vietnam, a déclaré que l'environnement numérique apporte d'innombrables opportunités et risques au développement des enfants. Au Vietnam, 9 enfants sur 10 utilisent Internet. Dans le but de créer un environnement en ligne sûr et efficace pour les enfants, World Vision International au Vietnam se concentre sur un programme complet d'éducation aux compétences numériques afin que les enfants puissent à la fois savoir comment se protéger, utiliser Internet de manière créative et être proactifs dans la création d'un environnement Internet sûr et efficace.

Nguyen Duc

Source : https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281