A medida que la IA se vuelve más accesible y cada vez más personas y empresas la utilizan a través de herramientas comunes, los piratas informáticos también pueden automatizar los ataques, acelerar las operaciones e implementar campañas más complejas para lograr sus objetivos ilegales.
Estos son los tipos de ataques que Kaspersky ha observado: ChatGPT puede usarse para desarrollar malware y desplegar ataques automáticamente a múltiples víctimas; Los programas de inteligencia artificial se infiltran en los datos de los usuarios en los teléfonos inteligentes y, a través del proceso de análisis de datos confidenciales, los malhechores pueden "leer" completamente los mensajes, contraseñas y códigos bancarios de las víctimas; Los algoritmos de inteligencia de enjambre ayudan a las redes informáticas automatizadas (bonets) a restaurar redes maliciosas que han sido eliminadas por soluciones de seguridad.
La investigación de Kaspersky sobre el uso de IA para descifrar contraseñas muestra que la mayoría de las contraseñas están cifradas mediante algoritmos hash como MD5 y SHA. De este modo, basta con una operación sencilla para transformar una contraseña en una línea de texto cifrado, pero revertir todo el proceso supone un gran desafío.
A través de la IA, los actores maliciosos pueden explotar contenido fraudulento, incluidos texto, imágenes, audio y video, para lanzar ataques de ingeniería social. Se utilizan modelos de lenguaje grandes como ChatGPT-4o para generar scripts y mensajes muy sofisticados. Superando las barreras del idioma, la IA puede escribir un correo electrónico genuino, basándose únicamente en la información de las redes sociales. La IA puede incluso imitar el estilo de escritura de la víctima. Esto hace que el comportamiento fraudulento sea aún más difícil de detectar.
Al mismo tiempo, Deepfake existe como un "problema" en la ciberseguridad, aunque anteriormente se consideraba un producto de la investigación científica. Suplantar la identidad de celebridades para obtener ganancias económicas es el método más común, además, los estafadores también usan Deepfake para robar cuentas, hacer llamadas falsas a amigos y familiares de las víctimas para apropiarse de sus propiedades.
Además de explotar la tecnología de IA para actividades ilegales, los malhechores también pueden atacar los algoritmos de IA. Como los ataques de “Inyección Rápida” que consisten en introducir comandos maliciosos en grandes modelos de lenguaje, incluso yendo en contra de reglas previamente restringidas; Los ataques adversarios implican agregar campos de información ocultos a las imágenes o al audio para influir en la capacidad del sistema de aprendizaje automático para clasificar las imágenes.
La IA se está integrando gradualmente en todos los aspectos de la vida humana, desde Apple Intelligence, Google Gemini hasta Microsoft Copilot. Por lo tanto, abordar las vulnerabilidades de la IA debería ser una máxima prioridad. Kaspersky ha estado utilizando tecnología de IA para proteger a clientes y socios durante muchos años, buscando continuamente vulnerabilidades en los sistemas de IA, para aumentar la resiliencia del sistema e investigando activamente técnicas de ciberataques para brindar soluciones de protección confiables contra ataques de IA.
Kim Tan
Fuente: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html
Kommentar (0)