L'éminent informaticien Yoshua Bengio prévient que si l'IA devient incontrôlable, « l'humanité pourrait disparaître d'ici 10 ans ».
Le 7 février, un éminent informaticien a mis en garde contre la possibilité que les humains « perdent le contrôle » des systèmes d’intelligence artificielle (IA) à l’avenir lorsque ces produits artificiels développeront une « volonté de survivre ».
S'exprimant lors du Sommet d'action sur l'IA qui se tient à Paris, l'informaticien Yoshua Bengio a appelé à une réglementation internationale plus stricte et à des recherches plus approfondies sur la sécurité de l'IA, qui ne représente actuellement qu'une petite fraction des investissements majeurs réalisés dans ce domaine.
L’émergence du modèle d’IA haute performance et à faible coût DeepSeek le mois dernier a accéléré la course à la sécurité, selon le lauréat du prestigieux prix Turing 2018 en informatique. M. Yoshua Bengio a averti que si nous perdions le contrôle de l’IA, « l’humanité pourrait disparaître d’ici 10 ans ».
Il a également appelé le gouvernement à faire preuve de leadership dans la réglementation de l’IA. Cet appel a été lancé dans un contexte où les États-Unis, premier pays au monde en matière d'IA, ont pris de nombreuses mesures pour « débloquer » le développement de cette technologie sous la présidence de Donald Trump.
À l’heure actuelle, le rapport international sur la sécurité de l’IA présenté par M. Yoshua Bengio lors de la conférence souligne également des risques bien connus tels que l’utilisation de l’IA pour créer du contenu faux ou trompeur sur les plateformes en ligne, tandis que des risques supplémentaires émergent constamment, tels que les attaques biologiques ou les cyberattaques.
Avec les contributions d'environ 100 experts de 30 pays, des Nations Unies, de l'Union européenne et de l'Organisation de coopération et de développement économiques (OCDE), il s'agit du premier rapport sur la sécurité internationale de l'IA, réalisé depuis le sommet sur la sécurité de l'IA au Royaume-Uni en novembre 2023.
Source : https://tuoitre.vn/canh-bao-ai-co-the-phat-trien-y-chi-sinh-ton-vuot-kiem-soat-cua-con-nguoi-20250207104202015.htm
Comment (0)