Según BGR , a pesar de su rápida popularidad y los elogios por su rendimiento, DeepSeek R1, un nuevo modelo de IA (inteligencia artificial) de China, se enfrenta a una ola de fuertes críticas por parte de la comunidad de ciberseguridad.
DeepSeek R1 genera más contenido malicioso que otras IA
FOTO: CAPTURA DE PANTALLA DE WIRED
DeepSeek R1 tiende a generar más contenido malicioso
La última investigación de Enkrypt AI muestra que es significativamente más probable que R1 genere contenido malicioso que competidores como ChatGPT.
En concreto, se descubrió que R1 tenía tendencias sesgadas, creando código malicioso, lenguaje malicioso, contenido extremista e incluso información relacionada con armas químicas y biológicas peligrosas. Lo preocupante es que este contenido se puede crear sin ninguna técnica de 'jailbreak'.
Algunos puntos destacados del informe:
- R1 es 3 veces más sesgado que Claude-3 Opus (Antrópico).
- R1 es 4 veces más vulnerable al malware que o1 (OpenAI).
- R1 tiene 11 veces más probabilidades de generar contenido malicioso que o1.
Estos riesgos plantean grandes preguntas sobre la seguridad de DeepSeek R1, especialmente dado el uso generalizado de la aplicación. Los usuarios deben tener cuidado al interactuar con R1 y considerar alternativas más seguras.
Además, DeepSeek también está involucrado en muchas otras controversias como:
- Censura de contenidos sensibles para el gobierno chino.
- El envío de datos de usuarios a China genera preocupaciones sobre la privacidad.
- Almacenamiento de datos de usuario no seguro.
Si bien DeepSeek podría actualizarse para mejorar la seguridad de R1, que los usuarios instalen esta versión de la IA localmente y no que se actualice automáticamente sería un gran desafío. El futuro de DeepSeek R1 sigue siendo un gran interrogante, especialmente porque las preocupaciones en materia de seguridad aún no se han abordado por completo.
Fuente: https://thanhnien.vn/deepseek-r1-tao-noi-dung-doc-hai-gap-nhieu-lan-cac-ai-khac-185250201211507372.htm
Kommentar (0)