El rápido desarrollo de la IA está atrayendo gran atención a nivel mundial en general y en Vietnam en particular. Los expertos consideran que la IA es el factor más importante de la cuarta revolución industrial y que aportará enormes e innovadores beneficios al desarrollo económico del país. Según la consultora Exactitude Consultancy, se prevé que a febrero de 2024 el tamaño del mercado global de IA para seguridad, seguridad pública y seguridad nacional aumente de 11.430 millones de dólares en 2023 a 47.320 millones de dólares en 2030.

Si bien la IA se aplica ampliamente en muchos campos, además de beneficios como proporcionar información, pronóstico inteligente de situaciones relacionadas con infraestructura crítica o pronóstico oportuno de situaciones de crisis, esta tecnología también plantea muchos riesgos y desafíos.

Todas las formas de ciberataques pueden aplicar IA

Los riesgos y desafíos de la IA para la sociedad, la ley y la ciberseguridad se mencionaron específicamente en la conferencia y exposición Cumbre de Seguridad Cibernética de Vietnam 2024 con el tema "Seguridad en la era de la explosión de la inteligencia artificial", organizada por el Departamento de Seguridad de la Información (Ministerio de Información y Comunicaciones) en coordinación con IEC, bajo los auspicios del Ministerio de Información y Comunicaciones el 30 de mayo.

W-KIN_4888.JPG.jpg
El Sr. Nguyen Anh Tuan, Subdirector del Centro Nacional de Datos de Población, Departamento de Policía Administrativa para el Orden Social (Ministerio de Seguridad Pública), realizó un análisis en el taller. Foto: Comité Organizador

Según el teniente coronel Nguyen Anh Tuan, subdirector del Centro Nacional de Datos de Población, Departamento de Policía Administrativa para el Orden Social (Ministerio de Seguridad Pública), en el ámbito social, la IA plantea preocupaciones sobre la violación de la privacidad; La IA se está utilizando para discriminar por raza, clase, género y etnia, lo que provoca conflictos y contradicciones más intensos; Proporcionar información falsa, intercambiar conceptos, cambiar la historia, distorsionar la verdad, causar confusión pública, afectar la educación y la cultura.

Como alguien que trabaja directamente con datos, el Sr. Nguyen Tuan Anh comentó: «Si bien los ministerios, departamentos y dependencias vietnamitas han desarrollado sus propias fuentes de datos para el trabajo profesional, la síntesis, el aprovechamiento y la evaluación aún presentan muchas limitaciones, en particular, la precisión y la integridad prácticamente no están garantizadas». Mientras tanto, los sistemas de IA sólo funcionan bien cuando tienen buenos datos de entrada. Si los datos de entrada son incorrectos o inexactos, dará lugar a resultados de análisis de IA inexactos o a predicciones "discriminatorias" e injustas.

En términos de leyes y políticas, según las estadísticas de legalnodes.com, alrededor de 33 países han elaborado documentos legales sobre IA, pero aún son limitados y no cuentan con un conjunto común de estándares integrales de IA. Los países se dividen en dos escuelas: modificar las leyes existentes e integrar la IA en cada campo; Emitir documentos legales completos que regulen la IA. Vietnam se encuentra en un nivel de aproximación y no cuenta con políticas específicas, documentos legales o instituciones relacionadas con la IA.

En términos de ciberseguridad, todas las formas de ciberataques actuales pueden aplicar IA para aumentar la iniciativa del atacante y causar más daño. Existen formas de ataque como a través de archivos maliciosos, simulación, phishing, ataques de denegación de servicio a gran escala, a través de aprendizaje automático. En la actualidad, además del sistema de Internet, los ministerios, departamentos, sucursales y localidades cuentan con sus propias redes. Ha habido ataques, accesos no autorizados y se puede aplicar IA para aumentar la escala y el nivel de los ataques.

Uso de IA para mitigar los riesgos de la IA

A través de la gestión e implementación actual de la Base de Datos Nacional de Población, el representante del Ministerio de Seguridad Pública propuso tres soluciones para minimizar los riesgos de la IA.

En primer lugar, completar rápidamente el corredor legal sobre IA para anticipar la tendencia, emitir documentos que regulen la ética en el proceso de desarrollo, producción y aplicación de la IA, como la protección de la privacidad, los datos personales y los derechos humanos de las unidades nacionales y extranjeras.

Según el Sr. Nguyen Anh Tuan, "Vietnam cuenta con un decreto sobre protección de datos personales, pero su aplicación práctica no ha cumplido con los requisitos para garantizar la seguridad y protección de los datos". Por ello, propuso tener leyes de datos o leyes de protección de datos personales. Además, debería haber regulaciones más claras sobre los delitos relacionados con la IA y estándares específicos sobre las plataformas de conexión, intercambio y compartición relacionadas con la IA.

En segundo lugar, investigar y aplicar proyectos de IA para combatir los riesgos de la IA. La IA es creada por humanos, es un producto del conocimiento, por lo que habrá variaciones de “IA buena” e “IA mala”. Para evitar el desarrollo de la IA, se puede utilizar la propia IA.

En tercer lugar, el desarrollo de la IA debe ir de la mano con la ciberseguridad y la seguridad de la información para evitar ataques y secuestros que puedan tener graves consecuencias. El nivel de preocupación por la seguridad de la información de las unidades no es adecuado.

Para el Departamento de Policía Administrativa para el Orden Social, es necesario mantener la seguridad y protección de los sistemas, realizar una buena preparación, realizar copias de seguridad y restaurar datos periódicamente y organizar periódicamente simulacros de respuesta a incidentes para estar preparados para lidiar con ataques intencionales de IA.

Fortalecer el seguimiento y supervisión del proceso de conexión e intercambio de información con las unidades para detectar oportunamente comportamientos inusuales y violaciones a la normativa sobre protección de datos personales durante la explotación y procesamiento de la información.

Por último, construir y aplicar IA en la monitorización de registros, análisis del tráfico de red, combinando el aprendizaje automático y el lenguaje natural para aumentar la precisión al tomar decisiones de resolución de problemas.