El rápido desarrollo de la IA está atrayendo gran atención a nivel mundial en general y en Vietnam en particular. Los expertos consideran que la IA es el factor más importante de la cuarta revolución industrial y que aportará enormes e innovadores beneficios al desarrollo económico del país. Según la consultora Exactitude Consultancy, a febrero de 2024 se prevé que el tamaño del mercado global de IA para seguridad, seguridad pública y seguridad nacional aumente de 11.430 millones de dólares en 2023 a 47.320 millones de dólares en 2030.

Si bien la IA se aplica ampliamente en muchos campos, además de beneficios como el suministro de información, la previsión inteligente de situaciones relacionadas con infraestructuras críticas o la previsión oportuna de situaciones de crisis, esta tecnología también plantea muchos riesgos y desafíos.

Todas las formas de ciberataques pueden aplicar IA

Los riesgos y desafíos de la IA para la sociedad, la ley y la ciberseguridad se mencionaron específicamente en la conferencia y exposición Cumbre de Seguridad Cibernética de Vietnam 2024 con el tema "Seguridad en la era de la explosión de la inteligencia artificial", organizada por el Departamento de Seguridad de la Información (Ministerio de Información y Comunicaciones) en coordinación con IEC, bajo los auspicios del Ministerio de Información y Comunicaciones el 30 de mayo.

W-KIN_4888.jpg
El Sr. Nguyen Anh Tuan, Director Adjunto del Centro Nacional de Datos de Población, Departamento de Policía Administrativa para el Orden Social (Ministerio de Seguridad Pública), habló en el taller. Foto: Comité Organizador

Según el teniente coronel Nguyen Anh Tuan, subdirector del Centro Nacional de Datos de Población, del Departamento de Policía Administrativa para el Orden Social (Ministerio de Seguridad Pública), en el ámbito social, la IA plantea preocupaciones sobre la violación de la privacidad; La IA se está utilizando para discriminar por motivos de raza, clase, género y etnia, provocando conflictos y contradicciones más intensos; Proporcionar información falsa, intercambiar conceptos, cambiar la historia, distorsionar la verdad, causar confusión pública, afectar la educación y la cultura.

Como alguien que trabaja directamente con datos, el Sr. Nguyen Tuan Anh compartió: "Aunque los ministerios, departamentos y sucursales vietnamitas han desarrollado sus propias fuentes de datos para el trabajo profesional, la síntesis, explotación y evaluación aún tienen muchas limitaciones, especialmente la precisión y la integridad casi no están garantizadas". Mientras tanto, los sistemas de IA solo funcionan bien cuando cuentan con buenos datos de entrada. Si los datos de entrada son incorrectos o inexactos, generarán resultados de análisis de IA inexactos o darán lugar a predicciones "discriminatorias" e injustas.

En términos de leyes y políticas, según las estadísticas de legalnodes.com, alrededor de 33 países han elaborado documentos legales sobre IA, pero aún son limitados y no cuentan con un conjunto común de estándares integrales de IA. Los países se dividen en dos escuelas: modificar las leyes existentes e integrar la IA en cada campo; Emitir documentos legales completos que regulen la IA. Vietnam se encuentra en el nivel inicial y no tiene políticas específicas, documentos legales o instituciones relacionadas con la IA.

En términos de ciberseguridad, todas las formas de ciberataques actuales pueden aplicar IA para aumentar la iniciativa del atacante y causar más daño. Existen formas de ataque como a través de archivos maliciosos, simulación, phishing, ataques de denegación de servicio a gran escala, a través de aprendizaje automático. En la actualidad, además del sistema de Internet, los ministerios, departamentos, sucursales y localidades cuentan con sus propias redes. Han habido ataques, accesos no autorizados y se puede aplicar IA para aumentar la escala y el nivel de los ataques.

Uso de la IA para mitigar los riesgos de la IA

A través de la gestión e implementación actual de la Base de Datos Nacional de Población, el representante del Ministerio de Seguridad Pública propuso tres soluciones para minimizar los riesgos de la IA.

En primer lugar, completar rápidamente el corredor legal sobre IA para anticipar la tendencia, emitir documentos que regulen la ética en el proceso de desarrollo, producción y aplicación de la IA, como la protección de la privacidad, los datos personales y los derechos humanos de las unidades nacionales y extranjeras.

Según el Sr. Nguyen Anh Tuan, "Vietnam tiene un decreto sobre protección de datos personales, pero su aplicación práctica no ha cumplido con los requisitos para garantizar la seguridad y protección de los datos". Por lo tanto, propuso tener leyes de datos o leyes de protección de datos personales. Además, debería haber regulaciones más claras sobre los delitos relacionados con la IA y estándares específicos sobre las plataformas de conexión, intercambio y compartición relacionadas con la IA.

En segundo lugar, investigar y aplicar proyectos de IA para combatir los riesgos de la IA. La IA es creada por humanos, es un producto del conocimiento, por lo que habrá variaciones de “IA buena” y “IA mala”. Para prevenir el desarrollo de la IA, se puede utilizar la propia IA.

En tercer lugar, el desarrollo de la IA debe ir de la mano con cuestiones de ciberseguridad y seguridad de la información para evitar ataques y secuestros que puedan tener graves consecuencias. El nivel de preocupación por la seguridad de la información de las unidades no es adecuado.

Para el Departamento de Policía Administrativa para el Orden Social, es necesario mantener la seguridad y protección de los sistemas, realizar una buena preparación, realizar copias de seguridad y restaurar datos periódicamente y organizar periódicamente simulacros de respuesta a incidentes para estar preparados para enfrentar ataques intencionales de IA.

Fortalecer el seguimiento y supervisión del proceso de conexión e intercambio de información con las unidades para detectar oportunamente comportamientos inusuales y violaciones a la normativa sobre protección de datos personales durante la explotación y procesamiento de la información.

Por último, crear y aplicar IA en la monitorización de registros, el análisis del tráfico de red, combinando el aprendizaje automático y el lenguaje natural para aumentar la precisión al tomar decisiones de resolución de problemas.