Vietnam tiene su primer conjunto de normas éticas de IA

Se espera que la inteligencia artificial (IA) traiga enormes beneficios a las personas, a la sociedad y a la economía vietnamita. Junto con la aplicación de la IA, Vietnam ha investigado y tomado medidas inicialmente para minimizar los riesgos en el proceso de desarrollo y uso de la IA, equilibrando los factores económicos, éticos y legales.

Esta es también la razón por la que el Ministerio de Ciencia y Tecnología (MOST) emitió un conjunto de documentos que guían una serie de principios sobre la investigación y el desarrollo responsables de sistemas de inteligencia artificial.

El documento de orientación establece una serie de principios generales y recomendaciones voluntarias para referencia y aplicación en el proceso de investigación, diseño, desarrollo y suministro de sistemas de inteligencia artificial.

Se alienta a las agencias científicas y tecnológicas, organizaciones, empresas e individuos dedicados a la investigación, diseño, desarrollo y suministro de sistemas de inteligencia artificial a aplicar este documento de orientación.

W-vien-han-lam-ilustracion-ai-tri-tue-nhan-tao-1.jpg
Modelos de robots de la Academia de Ciencia y Tecnología de Vietnam en la Exposición Internacional de Innovación de Vietnam 2023. Foto: Trong Dat

En consecuencia, la investigación y el desarrollo de sistemas de IA en Vietnam deben basarse en el punto de vista fundamental de avanzar hacia una sociedad centrada en el ser humano, donde todos disfruten de los beneficios de la inteligencia artificial, garantizando un equilibrio razonable entre beneficios y riesgos.

Las actividades de investigación y desarrollo de sistemas de IA en Vietnam tienen como objetivo garantizar la neutralidad tecnológica. En todos los casos, el Ministerio de Ciencia y Tecnología fomenta el intercambio y el debate con la participación de las partes pertinentes. Los principios y directrices se seguirán investigando y actualizando para adaptarse a situaciones prácticas.

El Ministerio de Ciencia y Tecnología dijo que el nacimiento del conjunto de documentos tiene como objetivo promover el interés en la investigación, el desarrollo y el uso de la inteligencia artificial en Vietnam de manera segura y responsable, minimizando los impactos negativos en las personas y la comunidad. Esto aumentará la confianza de los usuarios y de la sociedad en la IA y facilitará la investigación y el desarrollo de la inteligencia artificial en Vietnam.

Principios para el desarrollo responsable de la IA

En el documento, se anima a los desarrolladores a demostrar un espíritu de colaboración, promoviendo la innovación a través de la conexión e interacción de sistemas de inteligencia artificial. Los desarrolladores deben garantizar la transparencia controlando las entradas/salidas del sistema de IA y la capacidad de explicar análisis relevantes.

Los desarrolladores deben prestar atención a la capacidad de controlar los sistemas de inteligencia artificial y evaluar de antemano los riesgos involucrados. Un método de evaluación de riesgos es realizar pruebas en un espacio separado, como un laboratorio o un entorno donde se garanticen la seguridad y la protección, antes de ponerlo en uso práctico.

Además, para garantizar la controlabilidad de los sistemas de IA, los desarrolladores deben prestar atención al monitoreo del sistema (con herramientas de evaluación/monitoreo o corrección/actualización basadas en la retroalimentación del usuario) y a las medidas de respuesta (apagado del sistema, apagado de la red, etc.) realizadas por humanos o sistemas de IA confiables.

Robot IA IA Anan 3.jpg
Un joven hace una pregunta al "robot" de inteligencia artificial Anan desarrollado por ingenieros vietnamitas. Foto: Trong Dat

El desarrollador deberá garantizar que el sistema de inteligencia artificial no cause daño a la vida, el cuerpo o la propiedad del usuario o de terceros, incluso a través de un intermediario; Se debe prestar atención a la seguridad del sistema de inteligencia artificial, su confiabilidad y su capacidad para resistir ataques físicos o accidentes; Es necesario garantizar que los sistemas de IA no violen la privacidad de los usuarios o de terceros. Los derechos de privacidad mencionados en el principio incluyen la privacidad espacial (tranquilidad en la vida personal), la privacidad de la información (datos personales) y la confidencialidad de las comunicaciones.

Al desarrollar sistemas de inteligencia artificial, los desarrolladores deben tener especial cuidado en respetar los derechos humanos y la dignidad. En la medida de lo posible, dependiendo de las características de la tecnología aplicada, los desarrolladores deben tomar medidas para garantizar que no provoquen discriminación o injusticia debido a sesgos (prejuicios) en los datos de entrenamiento. No sólo eso, los desarrolladores necesitan cumplir con su responsabilidad ante las partes interesadas y brindar apoyo a los usuarios.

El periodismo de la era 4.0 no debe perderse el “tren de alta velocidad” de la IA . En lugar de dudar y temerle a la IA, los periodistas deberían incorporarla de manera proactiva a las operaciones de las salas de redacción.