Le Vietnam dispose de son premier ensemble de règles éthiques en matière d'IA

L’intelligence artificielle (IA) devrait apporter de grands avantages aux personnes, à la société et à l’économie vietnamienne. Parallèlement à l’application de l’IA, le Vietnam a initialement mené des recherches et pris des mesures pour minimiser les risques dans le processus de développement et d’utilisation de l’IA, en équilibrant les facteurs économiques, éthiques et juridiques.

C’est également la raison pour laquelle le ministère des Sciences et de la Technologie (MOST) a publié un ensemble de documents guidant un certain nombre de principes sur la recherche et le développement responsables des systèmes d’intelligence artificielle.

Le document d’orientation énonce un certain nombre de principes généraux et de recommandations volontaires à titre de référence et d’application dans le processus de recherche, de conception, de développement et de fourniture de systèmes d’intelligence artificielle.

Les agences scientifiques et technologiques, les organisations, les entreprises et les particuliers engagés dans la recherche, la conception, le développement et la fourniture de systèmes d’intelligence artificielle sont encouragés à appliquer ce document d’orientation.

W-vien-han-lam-illustration-ai-tri-tue-nhan-tao-1.jpg
Modèles de robots de l'Académie des sciences et technologies du Vietnam au Salon international de l'innovation du Vietnam 2023. Photo : Trong Dat

En conséquence, la recherche et le développement de systèmes d’IA au Vietnam doivent être basés sur le point de vue fondamental d’évoluer vers une société centrée sur l’humain, où chacun bénéficie des avantages de l’intelligence artificielle, garantissant un équilibre raisonnable entre les avantages et les risques.

Les activités de recherche et développement des systèmes d’IA au Vietnam visent à garantir la neutralité technologique. Dans tous les cas, le Ministère de la Science et de la Technologie encourage les échanges et les discussions avec la participation des parties concernées. Les principes et les lignes directrices continueront d’être étudiés et mis à jour pour s’adapter aux situations pratiques.

Le ministère des Sciences et de la Technologie a déclaré que la naissance de l'ensemble de documents vise à promouvoir l'intérêt pour la recherche, le développement et l'utilisation de l'intelligence artificielle au Vietnam de manière sûre et responsable, en minimisant les impacts négatifs sur les personnes et la communauté. Cela augmentera la confiance des utilisateurs et de la société dans l’IA et facilitera la recherche et le développement de l’intelligence artificielle au Vietnam.

Principes pour un développement responsable de l'IA

Dans le document, les développeurs sont encouragés à faire preuve d’un esprit de collaboration, en favorisant l’innovation grâce à la connexion et à l’interaction des systèmes d’intelligence artificielle. Les développeurs doivent garantir la transparence en contrôlant les entrées/sorties du système d’IA et la capacité d’expliquer les analyses pertinentes.

Les développeurs doivent prêter attention à la capacité de contrôler les systèmes d’intelligence artificielle et d’évaluer à l’avance les risques encourus. Une méthode d’évaluation des risques consiste à effectuer des tests dans un espace séparé, tel qu’un laboratoire ou un environnement où la sécurité et la sûreté sont assurées, avant de les mettre en pratique.

De plus, pour garantir la contrôlabilité des systèmes d’IA, les développeurs doivent prêter attention à la surveillance du système (avec des outils d’évaluation/surveillance ou de correction/mise à jour basés sur les commentaires des utilisateurs) et aux mesures de réponse (arrêt du système, arrêt du réseau, etc.) effectuées par des humains ou des systèmes d’IA de confiance.

IA AI Robot Anan 3.jpg
Un jeune pose une question au « robot » d'intelligence artificielle Anan développé par des ingénieurs vietnamiens. Photo : Trong Dat

Le développeur doit s’assurer que le système d’intelligence artificielle ne causera pas de préjudice à la vie, au corps ou aux biens de l’utilisateur ou d’un tiers, y compris par l’intermédiaire d’un intermédiaire ; Il convient de prêter attention à la sécurité du système d’intelligence artificielle, à sa fiabilité et à sa capacité à résister aux attaques physiques ou aux accidents ; Il est nécessaire de garantir que les systèmes d’IA ne violent pas la vie privée des utilisateurs ou des tiers. Les droits à la vie privée mentionnés dans le principe comprennent la confidentialité spatiale (tranquillité d’esprit dans la vie personnelle), la confidentialité des informations (données personnelles) et la confidentialité des communications.

Lors du développement de systèmes d’intelligence artificielle, les développeurs doivent veiller particulièrement à respecter les droits de l’homme et la dignité humaine. Dans la mesure du possible, en fonction des caractéristiques de la technologie appliquée, les développeurs doivent prendre des mesures pour garantir qu’ils ne provoquent pas de discrimination ou d’injustice en raison de biais (préjugés) dans les données de formation. De plus, les développeurs doivent s’acquitter de leurs responsabilités envers les parties prenantes et soutenir les utilisateurs.

Le journalisme à l’ère 4.0 ne doit pas manquer le « train à grande vitesse » de l’IA . Au lieu d’être hésitants et effrayés par l’IA, les journalistes devraient introduire de manière proactive l’intelligence artificielle dans les opérations des salles de rédaction.