Le code source du logiciel d'IA DeepSeek révèle de nombreuses surprises

(Dan Tri) - Des chercheurs en sécurité ont découvert des choses surprenantes dans le code source de DeepSeek, un logiciel d'IA originaire de Chine qui fait sensation dans le monde entier ces derniers jours.

La particularité de DeepSeek est que le logiciel est développé en open source, ce qui permet à la communauté de contribuer et aux développeurs d'intégrer cet outil d'IA dans leurs produits.

Dans le contexte où DeepSeek « provoque une fièvre » à l'échelle mondiale, les experts de la société de sécurité Wiz (USA) ont soigneusement examiné le code open source de cet outil d'IA.

Les experts ont découvert que l'outil expose bon nombre de ses bases de données clés, notamment les journaux système, le contenu des commandes utilisateur et même les jetons d'authentification API (jetons de sécurité qui authentifient les utilisateurs). réel pour accéder aux interfaces de programmation de DeepSeek)…

Il a été découvert que l'outil DeepSeek divulguait de nombreuses informations sensibles dans son code source (photo d'illustration : CNBC).

Au total, plus d'un million d'enregistrements de données importantes de DeepSeek sont accessibles aux personnes extérieures sans restrictions. Il est remarquable de constater que ces données peuvent être trouvées grâce à quelques petites techniques lors de l’exploration du code source, au lieu de devoir chercher en profondeur et de l’exploiter avec difficulté.

« C'était une grave erreur de la part de DeepSeek car le niveau de sécurité était très bas et nous avions un accès très élevé sans aucune restriction d'autorisations », a déclaré Ami Luttwak, CTO de Wiz.know.

« Cela montre que DeepSeek n’est pas suffisamment sécurisé pour que les utilisateurs fournissent leurs données sensibles et importantes », a ajouté Luttwak.

Les experts en sécurité craignent également que des personnes malintentionnées puissent utiliser ces bases de données divulguées pour pénétrer plus profondément dans les systèmes de DeepSeek, en exécutant du code malveillant pour voler des informations sur les utilisateurs ou cibler les utilisateurs. guider les réponses fournies par cet outil d'IA vers l'utilisateur.

« C’est choquant du point de vue de la sécurité de construire un modèle d’IA et de laisser la porte arrière grande ouverte », a commenté Jeremiah Fowler, chercheur indépendant en sécurité, après avoir lu le rapport publié par Wiz.

« Cela signifie que toute personne disposant d'une connexion Internet peut accéder à cet outil d'IA et le manipuler, ce qui représente un risque énorme pour les organisations et les utilisateurs », a ajouté Fowler.

On ne sait toujours pas si des acteurs malveillants ont profité des données sensibles divulguées par DeepSeek pour mener à bien des projets obscurs.

Les experts en sécurité de Wiz ont tenté de contacter DeepSeek pour les alerter de leurs découvertes.

DeepSeek est resté silencieux et n'a fourni aucune réponse. Cependant, plus d'une demi-heure après l'envoi du rapport par e-mail, les experts de Wiz ont constaté que les données divulguées dans le code source de DeepSeek n'étaient plus accessibles, ce qui signifie que DeepSeek avait commis une erreur. intervenir pour régler le problème.

DeepSeek est une startup fondée en 2023 par Luong Van Phong. Le siège social de la société est à Hangzhou, en Chine.

Le 20 janvier, DeepSeek a publié un outil d'IA appelé R1 pour les utilisateurs. Cet outil a immédiatement « provoqué une fièvre » à l’échelle mondiale grâce à sa capacité de réponse rapide et impressionnante.

De nombreux utilisateurs estiment également que DeepSeek R1 fournit des réponses plus intelligentes, plus précises et plus rapides que d'autres outils d'IA tels que ChatGPT, Gemini ou Llama...

Ce qui rend DeepSeek le plus surprenant, c'est que ce modèle d'IA ne coûte que 5,6 millions de dollars à construire et à exploiter, alors que les entreprises technologiques américaines dépensent des centaines, voire des milliards de dollars pour développer et exploiter leurs propres modèles d'IA.

Un autre point qui fait que DeepSeek attire l'attention du monde de la technologie est que cet outil d'IA est né et s'est développé à une époque où le gouvernement américain appliquait des sanctions, empêchant la fourniture de puces d'IA hautes performances aux entreprises chinoises.

Cela signifie que DeepSeek a été développé et fonctionne sur des puces d'IA à faible performance, mais démontre néanmoins une puissance impressionnante.

L’émergence de DeepSeek promet de créer une course féroce dans le développement de l’IA entre les deux superpuissances, les États-Unis et la Chine.

Cependant, outre la grande appréciation, de nombreuses personnes craignent que DeepSeek soit un outil du gouvernement de Pékin pour collecter des informations sur les utilisateurs via des questions ou donner des réponses bénéfiques aux politiques du gouvernement chinois.

Source : https://dantri.com.vn/suc-manh-so/ma-nguon-cua-phan-mem-ai-deepseek-he-lo-nhieu-dieu-bat-ngo-20250131004242202.htm