El código fuente del software de inteligencia artificial DeepSeek revela muchas sorpresas

(Dan Tri) - Investigadores de seguridad han descubierto cosas sorprendentes dentro del código fuente de DeepSeek, un software de inteligencia artificial originario de China que ha estado causando revuelo a nivel mundial en los últimos días.

Lo especial de DeepSeek es que el software está desarrollado como código abierto, lo que permite a la comunidad contribuir y a los desarrolladores integrar esta herramienta de IA en sus productos.

En el contexto de que DeepSeek está “causando fiebre” a nivel mundial, expertos de la empresa de seguridad Wiz (EE.UU.) han revisado cuidadosamente el código fuente abierto de esta herramienta de IA.

Los expertos han descubierto que la herramienta expone muchas de sus bases de datos clave, incluidos registros del sistema, contenidos de comandos de usuario e incluso tokens de autenticación de API (tokens de seguridad que autentican a los usuarios reales para acceder a las interfaces de programación de DeepSeek)…

Se descubrió que la herramienta DeepSeek filtraba mucha información confidencial dentro de su código fuente (Foto de la ilustración: CNBC).

En total, más de un millón de registros de datos importantes de DeepSeek pueden ser accedidos por personas externas sin restricciones. Sorprendentemente, estos datos se pueden encontrar mediante unas pocas pequeñas técnicas al extraer el código fuente, en lugar de tener que buscar en profundidad y explotarlos con dificultad.

"Este fue un grave error por parte de DeepSeek porque el nivel de seguridad era muy bajo y teníamos un acceso muy alto sin ninguna restricción de permisos", dijo Ami Luttwak, CTO de Wiz. know.

“Esto demuestra que DeepSeek no es lo suficientemente seguro para que los usuarios proporcionen cualquiera de sus datos sensibles e importantes”, añadió Luttwak.

Los expertos en seguridad también están preocupados de que los malos puedan usar estas bases de datos filtradas para penetrar más profundamente en los sistemas de DeepSeek, ejecutando código malicioso para robar información del usuario o dirigir las respuestas proporcionadas por esta herramienta de IA al usuario.

“Es chocante desde una perspectiva de seguridad construir un modelo de IA y dejar la puerta trasera abierta”, comentó Jeremiah Fowler, un investigador de seguridad independiente, después de leer el informe publicado por Wiz.

"Esto significa que cualquier persona con una conexión a Internet puede acceder y luego manipular esta herramienta de IA, lo que representa un enorme riesgo para las organizaciones y los usuarios", agregó Fowler.

Todavía no está claro si algún actor malicioso ha aprovechado los datos confidenciales filtrados de DeepSeek para llevar a cabo planes oscuros.

Los expertos en seguridad de Wiz intentaron comunicarse con DeepSeek para alertarlos sobre sus hallazgos.

DeepSeek ha permanecido en silencio y no ha proporcionado ninguna respuesta. Sin embargo, más de media hora después de enviar el informe por correo electrónico, los expertos de Wiz descubrieron que los datos filtrados en el código fuente de DeepSeek ya no eran accesibles, lo que significa que DeepSeek había cometido un error. intervenir para solucionar el problema.

DeepSeek es una startup fundada en 2023 por Luong Van Phong. La empresa tiene su sede en Hangzhou, China.

El 20 de enero, DeepSeek lanzó a los usuarios una herramienta de inteligencia artificial llamada R1. Esta herramienta inmediatamente “causó fiebre” a nivel mundial gracias a su rápida e impresionante capacidad de respuesta.

Muchos usuarios también califican a DeepSeek R1 por proporcionar respuestas más inteligentes, precisas y rápidas que otras herramientas de IA como ChatGPT, Gemini o Llama...

Lo más sorprendente de DeepSeek es que este modelo de IA solo cuesta 5,6 millones de dólares para construirlo y operarlo, mientras que las empresas tecnológicas estadounidenses gastan cientos, incluso miles de millones de dólares para desarrollar y operar sus propios modelos de IA.

Otro punto que hace que DeepSeek llame la atención del mundo tecnológico es que esta herramienta de IA nació y se desarrolló en un momento en el que el gobierno de Estados Unidos estaba aplicando sanciones, impidiendo el suministro de chips de IA de alto rendimiento para las empresas chinas.

Eso significa que DeepSeek fue desarrollado y funciona en chips de IA de bajo rendimiento, pero aún así demuestra una potencia impresionante.

La aparición de DeepSeek promete crear una feroz carrera en el desarrollo de la IA entre las dos superpotencias, Estados Unidos y China.

Sin embargo, además de la alta valoración, a muchas personas les preocupa que DeepSeek sea una herramienta del gobierno de Beijing para recopilar información de los usuarios a través de preguntas o dar respuestas que sean beneficiosas para las políticas del gobierno de China.

Fuente: https://dantri.com.vn/suc-manh-so/ma-nguon-cua-phan-mem-ai-deepseek-he-lo-nhieu-dieu-bat-ngo-20250131004242202.htm