Photo 8_Audrey Lorvo.jpg
Audrey Lorvo est une étudiante senior en informatique, économie et science des données, et chercheuse en responsabilité sociale et éthique en informatique (SERC). Photo : MIT

La recherche sur la sécurité de l'IA : un domaine important

Audrey Lorvo mène actuellement des recherches sur la sécurité de l’IA, un domaine qui vise à garantir que les modèles d’intelligence artificielle soient de plus en plus intelligents mais toujours dignes de confiance et bénéfiques pour l’humanité. Ce domaine se concentre sur les défis techniques tels que la tolérance aux erreurs et l’IA axée sur la valeur humaine, tout en abordant les questions sociales telles que la transparence et la responsabilité. Les experts s’inquiètent également des risques existentiels liés à la puissance croissante de l’IA.

« Il est de plus en plus important de veiller à ce que l’IA ne soit pas utilisée à mauvais escient ou ne fonctionne pas à l’encontre de l’intention humaine, en particulier à mesure que nous nous rapprochons de l’intelligence artificielle générale (AGI) », a partagé Lorvo.

En tant que chercheur au sein du programme de responsabilité sociale et éthique de l'informatique (SERC) de l'Institut Schwarzman d'informatique du MIT, Lorvo s'intéresse à la manière dont l'IA peut automatiser les processus de recherche et de développement de l'IA. « Nous devons faire tout ce que nous pouvons pour développer l’IA en toute sécurité », a-t-elle souligné, attirant l’attention sur les cadres réglementaires et les stratégies appropriés pour faire face aux risques.

Impliqué dans des initiatives telles que l'AI Safety Engineering Fellowship, Lorvo s'engage à comprendre les aspects techniques de la sécurité de l'IA. Ce programme de bourses l’aide à améliorer ses méthodes de recherche pour orienter le développement de l’IA dans une direction qui profite aux humains.

« Le programme m'a aidé à acquérir une compréhension plus approfondie des problèmes techniques et des défis liés à la sécurité de l'IA, proposant ainsi des stratégies de gouvernance de l'IA plus efficaces », a-t-elle partagé.

Selon Lorvo, les pionniers de l’IA repoussent les frontières technologiques, nécessitant une mise en œuvre de politiques efficaces pour donner la priorité à la sécurité humaine sans entraver la recherche.

La valeur d'une approche multidisciplinaire

Dès son entrée au MIT, Lorvo a voulu combiner sciences et sciences humaines. Cependant, la diversité des domaines de formation rend difficile pour elle le choix d’une spécialisation spécifique.

« Il existe de nombreuses façons d'améliorer la qualité de vie, et le MIT offre d'innombrables pistes pour les explorer. Les cours d'économétrie du professeur Joshua Angrist m'ont permis de comprendre l'intérêt de la recherche économique, tandis que la science des données et l'informatique m'ont fasciné en raison du potentiel croissant de l'IA. Nous pouvons utiliser ces outils pour résoudre nos problèmes les plus urgents et surmonter des défis majeurs », a déclaré Lorvo.

Lorvo a également étendu ses recherches à l’urbanisme et au développement international. En approfondissant son domaine, elle s'est rendu compte que de nombreux étudiants du MIT, en particulier le groupe MIT AI Alignment, partageaient son point de vue sur la responsabilité technologique.

Le concept d’« impact marginal » décrit l’impact supplémentaire d’un investissement de temps, d’argent ou d’effort dans un domaine donné. Selon Lorvo, cette approche aide les individus à décider comment investir leurs ressources plus efficacement.

Dans un monde où les ressources sont limitées, affirme Lorvo, une approche basée sur les données peut aider à allouer les ressources aux domaines où elles sont susceptibles de générer le plus grand bénéfice. Si vous souhaitez maximiser l’impact social, il est important de réfléchir à l’impact marginal de vos choix de carrière.

Expérience étudiante au MIT

En plus d'étudier, Lorvo participe activement à des activités parascolaires pour créer des expériences significatives et se connecter avec ses camarades étudiants.

« J'ai la chance de pouvoir concilier mes études, mes recherches, mes activités associatives et mes intérêts personnels comme la musculation ou la participation à des activités parascolaires. Le MIT propose toujours de nombreux clubs et événements intéressants à découvrir », a déclaré Lorvo.

Ces opportunités ont non seulement élargi ses horizons, mais l’ont également aidée à ajuster son orientation de carrière de manière plus appropriée. Lorvo, qui parle couramment le français, l'anglais, l'espagnol et le portugais, apprécie également les programmes d'expérience internationale du MIT.

Lorvo, qui a effectué un stage à Santiago du Chili et à Paris dans le cadre du programme MISTI, a également participé aux tests du système de condensation de vapeur conçu par l'équipe de la classe D-Lab 2023, en collaboration avec l'École Polytechnique de Madagascar et l'ONG Tatirano. Ces expériences l’ont aidée à mieux comprendre comment lutter contre les inégalités économiques.

Après avoir obtenu son diplôme, Lorvo a déclaré qu'il souhaitait continuer à rechercher des stratégies de sécurité et de gouvernance de l'IA pour garantir que l'IA soit déployée de manière sûre et efficace.

« Une bonne gouvernance est essentielle au développement réussi de l'IA et permet à l'humanité de tirer parti de son potentiel de transformation. Nous devons suivre en permanence le développement de l'IA à mesure que la technologie évolue », a affirmé Lorvo.

(Selon MIT News)