Les « parrains de l’IA », lauréats du prix VinFuture 2024, estiment que les scientifiques doivent s’assurer que les scénarios d’IA ne menacent pas la survie de l’humanité.
Aujourd'hui, 7 décembre, les lauréats du prix VinFuture 2024 ont interagi avec des étudiants et de jeunes scientifiques de l'Université VinUni sur la recherche scientifique ainsi que sur les perspectives d'avenir des domaines qu'ils poursuivent. Ici, les lauréats des principaux prix, de brillants scientifiques dont les travaux révolutionnaires ont jeté les bases de la révolution actuelle de l'IA, ont parlé des avancées incroyables de l'IA.
Le professeur Yann LeCun (au milieu) et le professeur Yoshua Bengio (couverture gauche) lors de la séance d'échange
« Nous avons l’impression d’avoir fait un bond de 10 ans dans le futur. »
N'étant pas venu au Vietnam pour recevoir le prix, le professeur Geoffrey Hinton, de l'Université de Toronto, au Canada, a participé à l'échange par vidéo. Lui, ainsi que le professeur Yann LeCun et le professeur Yoshua Bengio, ont reçu le prix Turing (une récompense considérée comme le prix Nobel d'informatique) en 2018, et sont tous deux appelés « parrains de l'IA » par les médias internationaux. Désormais, tous les trois continuent d'être honorés par VinFuture 2024 lors du prix principal, aux côtés de deux autres scientifiques, le professeur Fei Fei Li (États-Unis) et M. Jensen Huang (PDG de NVIDIA).
Selon le professeur Hinton, l’essor récent de l’IA est le résultat de trois facteurs. La première est une recherche visant à développer des méthodes plus efficaces pour permettre aux réseaux neuronaux d’apprendre, ce qu’il a fait, avec le professeur Yoshua, le professeur Yann et bien d’autres. À cela s’ajoute la puissance de calcul extrêmement rapide des unités de traitement graphique (GPU) et l’énorme quantité de données que nous pouvons collecter.
Le professeur Geoffrey Hinton partage via vidéo
« L’un des aspects importants de ce prix (VinFuture 2024) est la reconnaissance du travail de M. Jensen Huang, pionnier de la création de cartes GPU utiles pour l’IA. La combinaison de la carte GPU de Jensen Huang et des ensembles de données du professeur Fei Fei Li a joué un rôle important dans le développement moderne de l’IA. C’est formidable que leur travail soit reconnu aux côtés de ceux qui travaillent sur les algorithmes de réseaux neuronaux », a déclaré le professeur Hinton.
« Nous avons constaté que lorsque nous utilisions des GPU pour entraîner des réseaux neuronaux, ils étaient 30 fois plus rapides. C’était un bond en avant. C’était comme si la vitesse de calcul avait 10 ans d’avance sur son temps. Soudain, nous avions 10 ans d’avance sur le futur en termes de vitesse de calcul. Cela a complètement changé la donne pour l’IA, c’était incroyable ! », a déclaré le professeur Hinton.
Aujourd’hui, les scientifiques continuent de chercher à mieux comprendre les connexions au sein des réseaux neuronaux. Cela aiderait les scientifiques à créer un type d’intelligence artificielle plus proche de l’intelligence humaine et pourrait même expliquer l’intuition. L’approche logique traditionnelle n’a jamais fait cela.
« Je commence à avoir peur de l'IA »
Le professeur Hinton a fait remarquer que les grands réseaux neuronaux d’aujourd’hui ont une intuition similaire à celle des humains. Depuis l’année dernière, il craint qu’il ne faille que cinq à vingt ans pour que l’IA soit aussi intelligente que les humains. « C’est à ce moment-là que j’ai commencé à avoir peur de l’IA. Arrêter le développement n’est pas une option. La seule option est donc d’essayer de trouver comment s’assurer qu’elle soit sûre lorsqu’elle deviendra plus intelligente que nous », a expliqué le professeur Hinton.
« Je ne pense pas que la fin du monde soit inévitable », affirme le professeur Hinton. « Mais les possibilités ne peuvent être ignorées et nous devons travailler dur pour l’empêcher. J’espère que les étudiants les plus talentueux choisiront d’étudier la sécurité de l’IA, en abordant un large éventail de menaces, des menaces à long terme comme la prise de contrôle de l’IA aux menaces à court terme comme la cybercriminalité. »
Professeur Yoshua Bengio et Professeur Yann LeCun
Le professeur Yann Lecun s'inquiète également du risque que, lorsque l'IA sera aussi intelligente que l'homme, elle domine l'homme. Cependant, la réponse actuelle est non. « On peut perdre en jouant aux échecs avec un petit jouet qui coûte 30 euros. Est-ce dangereux ? La réponse est non. L’IA ne devient dangereuse que lorsqu’on crée une motivation (un contrôle humain) pour l’IA. Or, pour l’instant, l’IA n’a que des connaissances, pas de motivation », estime le professeur Yann.
Selon le professeur Yann, créer une IA qui serve activement l’humain n’est qu’un problème technique. Parce que l’IA est intelligente, penser que l’IA dominera les humains est un préjugé, car la réalité montre que dans la société, il y a eu beaucoup de gens intelligents mais ils n’ont pas dominé le monde ! L’IA reste un outil, le problème vient des humains, pas de l’IA.
Selon le professeur Yoshua Bengio, nous ne pouvons pas être subjectifs, un seul petit problème peut affecter la survie de l’humanité. Les humains peuvent mettre de la motivation dans les machines. Par exemple, quelqu'un veut transformer la machine en humain, en faisant en sorte que la machine ait besoin de « survivre », nous voulons éteindre la machine mais elle ne s'éteint pas. « Bien sûr, nous devons veiller à ce que ce scénario ne se produise pas », a déclaré le professeur Bengio.
Source : https://thanhnien.vn/vinfuture-award-2024-khong-de-ai-de-doa-su-ton-vong-cua-nhan-loai-185241207195331155.htm
Comment (0)