Attention, l'IA pourrait développer une « volonté de survivre » qui échappe au contrôle humain

Báo Tuổi TrẻBáo Tuổi Trẻ07/02/2025

L'éminent informaticien Yoshua Bengio prévient que si l'IA devient incontrôlable, « l'humanité pourrait disparaître d'ici 10 ans ».


Cảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt kiểm soát của con người - Ảnh 1.

Les scientifiques s'inquiètent du risque de perdre le contrôle de l'IA - Illustration : ChatGPT

Le 7 février, un éminent informaticien a mis en garde contre la possibilité que les humains « perdent le contrôle » des systèmes d’intelligence artificielle (IA) à l’avenir lorsque ces produits artificiels développeront une « volonté de survivre ».

S'exprimant lors du Sommet d'action sur l'IA qui se tient à Paris, l'informaticien Yoshua Bengio a appelé à une réglementation internationale plus stricte et à des recherches plus approfondies sur la sécurité de l'IA, qui ne représente actuellement qu'une petite fraction des investissements majeurs réalisés dans ce domaine.

L’émergence du modèle d’IA haute performance et à faible coût DeepSeek le mois dernier a accéléré la course à la sécurité, selon le lauréat du prestigieux prix Turing 2018 en informatique. M. Yoshua Bengio a averti que si nous perdions le contrôle de l’IA, « l’humanité pourrait disparaître d’ici 10 ans ».

Il a également appelé le gouvernement à faire preuve de leadership dans la réglementation de l’IA. Cet appel a été lancé dans un contexte où les États-Unis, premier pays au monde en matière d'IA, ont pris de nombreuses mesures pour « débloquer » le développement de cette technologie sous la présidence de Donald Trump.

À l’heure actuelle, le rapport international sur la sécurité de l’IA présenté par M. Yoshua Bengio lors de la conférence souligne également des risques bien connus tels que l’utilisation de l’IA pour créer du contenu faux ou trompeur sur les plateformes en ligne, tandis que des risques supplémentaires émergent constamment, tels que les attaques biologiques ou les cyberattaques.

Avec les contributions d'environ 100 experts de 30 pays, des Nations Unies, de l'Union européenne et de l'Organisation de coopération et de développement économiques (OCDE), il s'agit du premier rapport sur la sécurité internationale de l'IA, réalisé depuis le sommet sur la sécurité de l'IA au Royaume-Uni en novembre 2023.

Cảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt kiểm soát của con người - Ảnh 2. L'UE confrontée au difficile problème de la gestion de l'IA

Le 4 février, la Commission européenne a publié un document guidant la mise en œuvre des dispositions de la loi sur l’intelligence artificielle (IA), en vigueur à partir du 2 février, recevant des réactions mitigées.



Source : https://tuoitre.vn/canh-bao-ai-co-the-phat-trien-y-chi-sinh-ton-vuot-kiem-soat-cua-con-nguoi-20250207104202015.htm

Comment (0)

No data
No data

Event Calendar

Cùng chủ đề

Cùng chuyên mục

Cùng tác giả

No videos available