Vietnam estudia regulaciones sobre ética de la IA

Basándose en la experiencia de muchos países y en los principios de la UNESCO, Vietnam está elaborando regulaciones para desarrollar la inteligencia artificial (IA) de forma ética y responsable.

En el taller "Desarrollo y aplicación de inteligencia artificial responsable: teoría y práctica", celebrado en la mañana del 28 de febrero en la Universidad de Derecho, VNU, el viceministro de Ciencia y Tecnología Bui The Duy, dijo que la ética de la IA es un tema complejo y global que está atrayendo a muchos países y organizaciones de todo el mundo a participar en la búsqueda de soluciones, incluida la UNESCO.

La UNESCO es una organización centrada en la cultura y la educación . Sin embargo, por primera vez, ha incorporado la inteligencia artificial, un tema tecnológico, al debate. Esta decisión ha provocado que algunos países que habían abandonado la organización decidan reincorporarse, afirmó.

Según el viceministro, la ética de la IA afecta a muchos aspectos de la vida, como la sociedad, el derecho, la competencia política y la competencia comercial. Para que la inteligencia artificial se desarrolle de manera responsable, es necesario tomar en serio la gobernanza desde la etapa de definición de los modelos de IA y la recopilación de datos hasta la finalización del sistema y su puesta en aplicación. En la práctica de Vietnam, este proceso requiere la coordinación de ingenieros, científicos y organismos de gestión como el Ministerio de Ciencia y Tecnología, el Ministerio de Información y Comunicaciones y el Ministerio de Seguridad Pública .

También en el taller, el Sr. Duy dijo que los principios de la UNESCO son la base para que los países elaboren regulaciones sobre la ética de la IA. En primer lugar, el modelo de inteligencia artificial debe cumplir con el diseño y las tareas establecidas desde el inicio, para garantizar que no haya acciones destructivas que causen daño a los humanos.

"La IA es completamente diferente de las tecnologías que los humanos han investigado. Mientras que los productos tecnológicos antiguos solo siguen objetivos existentes, la IA puede crear nuevas direcciones por sí sola, más allá del control del desarrollador", afirmó. El viceministro también puso como ejemplo a unos científicos que tenían dos sistemas informáticos conversando en inglés. Sin embargo, después de un tiempo, de repente pasaron a comunicarse en un idioma extraño, lo que hizo imposible para el equipo de investigación comprender el contenido de la conversación.

La cuestión de la igualdad y la justicia también es un motivo de preocupación a la hora de construir un modelo de IA. Según el Sr. Duy, desde el momento de recopilar información para entrenar la inteligencia artificial, pueden producirse desigualdades que afecten negativamente a todo el sistema.

Con el modelo de reconocimiento de voz de IA, dio un ejemplo de que si las fuentes de datos solo se recopilaran de la gente de Hanoi, el sistema estaría sesgado al interactuar con personas de otras regiones. “En términos más generales, las fuentes de datos de IA pueden causar injusticias entre géneros y grupos sociales, como las personas con discapacidades”, afirmó. Por lo tanto, para tener un desarrollo justo de la IA, además de la participación de expertos juristas, también es necesaria la contribución de psicólogos y sociólogos.

Además, el representante del Ministerio también enfatizó algunos principios importantes de la ética de la IA, como garantizar la seguridad de los datos personales, respetar los derechos de autor, los derechos de propiedad intelectual, mejorar la productividad laboral pero la necesidad de proteger el medio ambiente y la seguridad social.

El viceministro Bui The Duy habló en el taller. Foto: Hoang Giang

En el taller, los expertos dijeron que Vietnam está monitoreando la implementación de regulaciones sobre el desarrollo responsable de IA en muchos países y regiones alrededor del mundo, con el fin de investigar y construir un marco legal adecuado para la práctica nacional.

En concreto, a finales de 2023, la Unión Europea aprobó los principios de la Ley de IA, cuyo anuncio está previsto a más tardar en el segundo trimestre de 2024. Se trata, por el momento, de la primera y más completa pieza legislativa, con numerosas iniciativas encaminadas a abordar los riesgos de la IA.

"La Ley de IA de 2024 se basará en los riesgos de los modelos de IA para ajustar la ley en consecuencia, junto con un marco legal de prueba y un enfoque flexible en cuanto a ética, confiabilidad y responsabilidad", afirmó el Dr. Do Giang Nam, de la Universidad de Derecho de VNU, en el taller. Según él, la experiencia de la Ley de IA que Vietnam puede aplicar es "no construir una ley de una vez por todas, sino actualizarse continuamente y adaptarse al desarrollo de la tecnología de IA".

A diferencia de Europa, Estados Unidos está buscando respuestas del sector privado para dar forma a la gobernanza de la IA. Estados Unidos también es el país con más demandas contra empresas de IA, en su mayoría relacionadas con violaciones de la privacidad y discriminación entre grupos de trabajadores. Según los expertos, en lugar de un conjunto fijo de leyes, Estados Unidos tiende a emitir muchos principios para que las organizaciones y los individuos puedan ser flexibles en el proceso de desarrollo y aplicación de modelos de IA.

China y Japón también son dos países que han hecho grandes avances en el desarrollo de una IA responsable. Desde 2019, el país de mil millones de habitantes ha emitido cuatro principios, centrados en los creadores de modelos, los usuarios, la gobernanza de la IA y las futuras direcciones del desarrollo de la IA. En consecuencia, China opta por desarrollar la IA de forma autónoma y promover la gobernanza interna, mientras que Japón aspira a un código de conducta de IA centrado en el ser humano y al mismo tiempo garantizar la participación en foros internacionales.

"El proceso de gestión de la inteligencia artificial en países de la misma región, como China y Japón, puede ser una experiencia para el desarrollo responsable de la IA en Vietnam. Además de la responsabilidad legal, la responsabilidad aquí también implica responsabilidad con la sociedad y las personas", afirmó la profesora asociada Dra. Nguyen Thi Que Anh, rectora de la Universidad de Derecho de la VNU. Además, Vietnam también está elaborando la Ley de la Industria de Tecnología Digital, que incluye contenido sobre la ética de los productos digitales, incluida la inteligencia artificial.

Hoang Giang

Enlace de origen: https://vnexpress.net/viet-nam-nghien-cuu-quy-dinh-ve-dao-duc-ai-4716422.html