Le développement rapide de l’IA attire une grande attention à l’échelle mondiale en général et au Vietnam en particulier. Les experts considèrent l’IA comme le facteur le plus important de la 4e révolution industrielle, apportant des avantages énormes et révolutionnaires au développement économique du pays. Selon le cabinet de conseil Exactitude Consultancy, en février 2024, la taille du marché mondial de l'IA pour la sécurité, la sûreté publique et la sécurité nationale devrait passer de 11,43 milliards de dollars en 2023 à 47,32 milliards de dollars en 2030.

Bien que l’IA soit largement appliquée dans de nombreux domaines, outre des avantages tels que la fourniture d’informations, la prévision intelligente de situations liées aux infrastructures critiques ou la prévision rapide de situations de crise, cette technologie pose également de nombreux risques et défis.

Toutes les formes de cyberattaques peuvent appliquer l'IA

Les risques et les défis de l'IA pour la société, le droit et la cybersécurité ont été spécifiquement mentionnés lors de la conférence et de l'exposition Vietnam Cyber ​​​​Security Summit 2024 sur le thème « La sécurité à l'ère de l'explosion de l'intelligence artificielle », organisée par le Département de la sécurité de l'information (ministère de l'Information et des Communications) en coordination avec l'IEC, sous les auspices du ministère de l'Information et des Communications le 30 mai.

W-KIN_4888.JPG.jpg
M. Nguyen Anh Tuan, directeur adjoint du Centre national de données démographiques, Département de la police administrative pour l'ordre social (ministère de la Sécurité publique) a discuté lors de l'atelier. Photo : Comité d'organisation

Selon le lieutenant-colonel Nguyen Anh Tuan, directeur adjoint du Centre national de données démographiques du Département de la police administrative pour l'ordre social (ministère de la Sécurité publique), sur le plan social, l'IA suscite des inquiétudes quant à la violation de la vie privée ; L’IA est utilisée pour discriminer la race, la classe, le sexe, l’origine ethnique, provoquant des conflits et des contradictions plus intenses ; Fournir de fausses informations, échanger des concepts, changer l’histoire, déformer la vérité, provoquer la confusion publique, affecter l’éducation et la culture.

En tant que personne travaillant directement avec les données, M. Nguyen Tuan Anh a partagé : « Bien que les ministères, départements et branches vietnamiens aient développé leurs propres sources de données pour le travail professionnel, la synthèse, l'exploitation et l'évaluation présentent encore de nombreuses limites, en particulier l'exactitude et l'exhaustivité ne sont presque pas garanties. » En attendant, les systèmes d’IA ne fonctionnent bien que lorsqu’ils disposent de bonnes données d’entrée. Si les données d’entrée sont incorrectes ou inexactes, cela entraînera des résultats d’analyse d’IA inexacts ou des prédictions « discriminatoires » et injustes.

En termes de droit et de politique, selon les statistiques de legalnodes.com, environ 33 pays ont rédigé des documents juridiques sur l'IA, mais sont encore limités et ne disposent pas d'un ensemble commun de normes complètes en matière d'IA. Les pays sont divisés en deux écoles : modifier les lois existantes et intégrer l’IA dans chaque domaine ; Publier des documents juridiques complets réglementant l’IA. Le Vietnam est au niveau de l’approche et ne dispose pas de politiques spécifiques, de documents juridiques ou d’institutions liées à l’IA.

En termes de cybersécurité, toutes les formes de cyberattaques peuvent aujourd’hui appliquer l’IA pour augmenter l’initiative de l’attaquant, causant ainsi plus de dégâts. Il existe des formes d'attaque telles que les attaques par fichiers malveillants, la simulation, le phishing, les attaques par déni de service à grande échelle, l'apprentissage automatique. Actuellement, outre le système Internet, les ministères, les départements, les branches et les localités disposent tous de leurs propres réseaux. Il y a eu des attaques, des accès non autorisés et l’IA peut être appliquée pour augmenter l’ampleur et le niveau des attaques.

Utiliser l'IA pour atténuer les risques liés à l'IA

À travers la gestion et la mise en œuvre effectives de la base de données nationale sur la population, le représentant du ministère de la Sécurité publique a proposé trois solutions pour minimiser les risques liés à l’IA.

Premièrement, il faut rapidement compléter le couloir juridique sur l’IA pour anticiper la tendance, publier des documents réglementant l’éthique dans le processus de développement, de production et d’application de l’IA, comme la protection de la vie privée, des données personnelles et des droits de l’homme des unités nationales et étrangères.

Selon M. Nguyen Anh Tuan, « le Vietnam dispose d'un décret sur la protection des données personnelles, mais son application pratique n'a pas satisfait aux exigences visant à garantir la sécurité et la sûreté des données. » Il a donc proposé d’avoir des lois sur les données ou des lois sur la protection des données personnelles. En outre, il faudrait mettre en place des réglementations plus claires sur les crimes liés à l’IA, ainsi que des normes spécifiques sur les plateformes de connexion, de partage et d’échange liées à l’IA.

Deuxièmement, rechercher et appliquer des projets d’IA pour lutter contre les risques liés à l’IA. L’IA est créée par les humains, c’est un produit de la connaissance, il y aura donc des variantes de « bonne IA » et de « mauvaise IA ». Pour empêcher le développement de l’IA, l’IA elle-même peut être utilisée.

Troisièmement, le développement de l’IA doit aller de pair avec les questions de cybersécurité et de sécurité de l’information pour éviter les attaques et les détournements qui peuvent avoir de graves conséquences. Le niveau de préoccupation des unités en matière de sécurité de l’information n’est pas adéquat.

Pour le Département de la police administrative pour l'ordre social, il est nécessaire de maintenir la sécurité et la sûreté des systèmes, d'effectuer une bonne préparation, de sauvegarder et de restaurer régulièrement les données et d'organiser périodiquement des exercices de réponse aux incidents pour être prêt à faire face aux attaques intentionnelles de l'IA.

Renforcer le suivi et la supervision du processus de connexion et le partage d’informations avec les unités pour détecter rapidement les comportements inhabituels et les violations de la réglementation sur la protection des données personnelles lors de l’exploitation et du traitement des informations.

Enfin, créez et appliquez l’IA dans la surveillance des journaux, l’analyse du trafic réseau, en combinant l’apprentissage automatique et le langage naturel pour augmenter la précision lors de la prise de décisions de dépannage.