Le développement rapide de l’intelligence artificielle (IA) a suscité des inquiétudes quant au fait qu’elle se développe plus vite que les humains ne peuvent en comprendre l’impact.
Photo: ST
L’utilisation de l’IA générale a considérablement augmenté après l’émergence d’outils comme ChatGPT. Bien que ces outils offrent de nombreux avantages, ils peuvent également être utilisés à mauvais escient de manière néfaste.
Pour gérer ce risque, les États-Unis et plusieurs autres pays ont obtenu des accords de la part de sept entreprises, dont Amazon, Anthropic, Google, Inflection, Meta, Microsoft et OpenAI, pour s’engager à adopter des pratiques sûres dans le développement de la technologie de l’IA.
L’annonce de la Maison Blanche s’accompagnait de sa propre terminologie, qui peut être inconnue du commun des mortels, avec des mots comme « red teaming » et « watermarking ». Voici sept termes liés à l’IA à surveiller.
Apprentissage automatique
Cette branche de l’IA vise à former des machines à effectuer une tâche spécifique avec précision en identifiant des modèles. La machine peut ensuite faire des prédictions basées sur ces données.
Apprentissage profond
Les tâches d’IA créatives s’appuient souvent sur l’apprentissage profond, une méthode qui consiste à former des ordinateurs à l’aide de réseaux neuronaux, un ensemble d’algorithmes conçus pour imiter les neurones du cerveau humain, afin d’établir des connexions complexes entre des modèles pour générer du texte, des images ou d’autres contenus.
Étant donné que les modèles d’apprentissage profond comportent plusieurs couches de neurones, ils peuvent apprendre des modèles plus complexes que l’apprentissage automatique traditionnel.
Grand modèle de langage
Un grand modèle de langage, ou LLM, est formé sur des quantités massives de données et vise à modéliser le langage ou à prédire le mot suivant dans une séquence. Les grands modèles linguistiques, comme ChatGPT et Google Bard, peuvent être utilisés pour des tâches telles que le résumé, la traduction et la conversation.
Algorithme
Un ensemble d’instructions ou de règles qui permet aux machines de faire des prédictions, de résoudre des problèmes ou d’accomplir des tâches. Les algorithmes peuvent fournir des recommandations d'achat et aider à la détection des fraudes, ainsi que des fonctions de chat pour le service client.
Biais
Étant donné que l’IA est formée sur de grands ensembles de données, elle peut incorporer des informations nuisibles dans les données, telles que des discours de haine. Le racisme et le sexisme peuvent également apparaître dans les ensembles de données utilisés pour former l’IA, ce qui conduit à un contenu biaisé.
Les entreprises d’IA ont convenu d’approfondir leurs recherches sur la manière d’éviter les préjugés et la discrimination préjudiciables dans les systèmes d’IA.
Équipe rouge
L’un des engagements pris par les entreprises auprès de la Maison Blanche est de mener des « équipes rouges » à l’intérieur et à l’extérieur des modèles et systèmes d’IA.
Le « red teaming » consiste à tester un modèle pour découvrir des dommages potentiels. Le terme vient d'une pratique militaire où une équipe simulait les actions d'un attaquant pour élaborer des stratégies.
Cette méthode est largement utilisée pour tester les vulnérabilités de sécurité dans des systèmes tels que les plateformes de cloud computing d’entreprises comme Microsoft et Google.
Filigrane
Le filigrane est un moyen de savoir si l'audio ou l'image est généré par l'IA ou non. Les faits rassemblés à des fins de vérification peuvent inclure des informations sur la personne qui les a créés, ainsi que sur la manière et le moment où ils ont été créés ou modifiés.
Microsoft, par exemple, s’est engagé à filigraner les images générées par ses outils d’IA. Les entreprises se sont également engagées auprès de la Maison Blanche à « filigraner » les images ou à enregistrer leur origine... pour les identifier comme des photos générées par l'IA.
Les filigranes sont également couramment utilisés pour suivre les violations de la propriété intellectuelle. Les filigranes des images générées par l’IA peuvent apparaître comme un bruit imperceptible, comme un léger changement tous les sept pixels.
Cependant, le tatouage numérique du texte généré par l'IA peut être plus complexe et peut impliquer de modifier le modèle de mot, afin qu'il puisse être identifié comme un contenu généré par l'IA.
Hoang Ton (selon Poynter)
Source
Comment (0)