Ética de la IA: desafíos y direcciones

Los expertos comparan la IA con "máquinas" creadas por ingenieros tecnológicos, cuyo comportamiento imita al humano y se acerca cada vez más a la inteligencia real.

Si la IA no se diseña y controla de forma ética, la sociedad podría enfrentarse a muchas consecuencias.

La IA puede causar discriminación de género y étnica si se desarrolla con datos sesgados. La IA podría reemplazar muchos trabajos, lo que representaría un gran desafío para el mercado laboral. Las personas con discapacidad, las personas que rara vez utilizan la tecnología, las minorías étnicas… necesitan apoyo para no quedarse atrás en el proceso de acceso a servicios integrados de IA.

El desarrollo de la IA también planteará ciertos desafíos para el medio ambiente y los recursos. La instalación y el mantenimiento de centros de datos, infraestructura de computación en la nube y supercomputadoras requieren enormes cantidades de electricidad y agua, además de un espacio importante para albergar los equipos.

A medida que la IA ingresa a áreas críticas como la atención médica, ¿cuál será la responsabilidad si hay errores en el diagnóstico y el tratamiento? La seguridad de la información de los pacientes en particular, la protección de los datos personales en general, así como garantizar la exactitud de los datos son cuestiones de especial preocupación...

Los riesgos mencionados no se limitan sólo a Vietnam, sino al mundo entero. Por lo tanto, el desarrollo y la aplicación de la IA deben calcularse cuidadosamente y ir acompañados de mecanismos de control y navegación adecuados.

La ética de la IA requiere que las personas y las organizaciones involucradas en el desarrollo de la IA sean responsables de diseñar, operar y explotar esta "máquina" de manera transparente, justa y segura para los usuarios y la sociedad. Al mismo tiempo, la ética de la IA también enfatiza el papel de la comunidad global y nacional a la hora de abordar las consecuencias del impacto de la IA en la vida.

El desarrollo de la IA plantea ciertos desafíos para el medio ambiente y los recursos. (Ilustración)

Nuestro Partido y Estado identifican el propósito central de la transformación digital como servir a las personas, con el espíritu de tomar a las personas como centro. Por ello, además de la promoción y el desarrollo, nos hemos centrado en minimizar los impactos no deseados en las personas durante el proceso de transformación digital.

La Asamblea Nacional solicitó investigar políticas para apoyar a los afectados por la revolución industrial 4.0 durante el proceso de modificación de la Ley de Empleo.

Hemos emitido la Ley de Datos 2024, estamos en proceso de desarrollar la Ley de Protección de Datos Personales, modificando la Ley de Ciberseguridad… para contribuir a controlar los riesgos de la IA.

Las agencias y organizaciones del sistema político están investigando muchas soluciones para ayudar a las personas a tener un acceso más conveniente a servicios administrativos inteligentes. El modelo operativo del Centro de Servicios de Administración Pública de la Ciudad de Hanoi es un ejemplo…

Sin embargo, el gran desafío es cómo equilibrar la promoción de la innovación y el monitoreo de la ética de la IA. Unos controles demasiado estrictos pueden sofocar la innovación, pero unos controles demasiado laxos pueden conducir a las mismas consecuencias ya señaladas.

Además, al implementar simultáneamente muchas estrategias y programas de desarrollo de la ciencia y la tecnología, se requiere cálculo y equilibrio para ser apropiados cuando los recursos son limitados.

El equilibrio entre fomentar la innovación y supervisar la ética de la IA. (Ilustración)

En este contexto, el papel proactivo de las asociaciones profesionales, empresas, institutos de investigación, organizaciones sociales, etc., en el acompañamiento al Gobierno para orientar el desarrollo de una IA responsable juega un papel muy importante.

Recientemente, el 22 de marzo de 2025, se lanzó la Asociación Nacional de Datos, con el objetivo de construir un ecosistema de datos sólido, contribuyendo a promover el desarrollo económico digital y aumentar el valor de los datos en la economía nacional.

Anteriormente, la Asociación de Servicios de Software y Tecnología de la Información de Vietnam (VINASA) estableció el Comité de Ética de Inteligencia Artificial. El comité está trabajando para asesorar a las autoridades en el desarrollo de un Código de Conducta Ética de IA para las empresas de desarrollo de IA. Al mismo tiempo, el Comité propuso crear un conjunto de datos estandarizado, requiriendo que las empresas extranjeras que desarrollan IA en Vietnam cumplan con ciertos criterios.

El modelo de VINASA necesita ser replicado y fomentado, porque claramente, la ética de la IA no es sólo un asunto de las agencias de gestión, sino que requiere la cooperación de toda la sociedad.

A largo plazo, Vietnam debe considerar la posibilidad de construir una estrategia de desarrollo de IA responsable dentro de la Estrategia Nacional general sobre el Desarrollo de la Inteligencia Artificial, garantizando todos los valores: equidad, inclusión, transparencia, seguridad y responsabilidad.

Más importante aún, el cumplimiento de la ley es un requisito obligatorio, que requiere que cada individuo y organización tenga una profunda conciencia tanto en la conciencia como en la acción al desarrollar y aplicar la IA.

Es necesario seguir mejorando el sistema jurídico para definir claramente las responsabilidades legales, establecer un mecanismo para gestionar las violaciones y proteger los derechos legítimos de las partes interesadas en el entorno digital.

Las experiencias internacionales también son una base importante a la que Vietnam puede referirse para construir así un modelo adecuado de gobernanza de la IA. Un sistema legal completo y un mecanismo de monitoreo efectivo ayudarán a controlar los riesgos y prevenir el abuso de la tecnología sin obstaculizar la innovación. En ese momento, la IA se convertirá verdaderamente en una herramienta al servicio de la humanidad y para promover el progreso social.

Fuente: https://nhandan.vn/dao-duc-ai-thach-thuc-va-huong-di-post873031.html