Investigar y desarrollar sistemas de inteligencia artificial responsables.

Según el Ministerio de Ciencia y Tecnología, siguiendo la tendencia general en el mundo, se espera que los sistemas de inteligencia artificial aporten grandes beneficios a las personas, la sociedad y la economía vietnamita al apoyar y resolver problemas difíciles que enfrentan las personas y la comunidad. Paralelamente a ese proceso, es necesario investigar y contar con medidas para minimizar los riesgos en el proceso de desarrollo y uso de la inteligencia artificial y equilibrar los factores económicos, éticos y legales relacionados. Por lo tanto, las agencias profesionales necesitan investigar y desarrollar estándares y pautas de orientación, incluso si son regulaciones blandas y no vinculantes.

En las directrices, el Ministerio de Ciencia y Tecnología establece nueve principios para la investigación y el desarrollo responsables de sistemas de inteligencia artificial.

En primer lugar, el espíritu de cooperación e innovación: los desarrolladores deben considerar la conectividad y la interoperabilidad entre sus sistemas de IA y otros sistemas de IA considerando la diversidad de los sistemas para mejorar los beneficios del sistema y, al mismo tiempo, mejorar la coordinación para controlar los riesgos.

En segundo lugar, la transparencia: los sistemas de inteligencia artificial que siguen este principio son a menudo sistemas que pueden afectar la vida, el cuerpo, la privacidad o la propiedad de los usuarios o de terceros relevantes. Los desarrolladores deben prestar atención a la capacidad de identificar claramente las entradas y salidas del sistema, así como la explicabilidad relacionada en función de las características de la tecnología aplicada y cómo se utilizan para garantizar la confianza de la sociedad, incluidos los usuarios.

En tercer lugar, la controlabilidad: para evaluar los riesgos asociados a la controlabilidad del sistema, los desarrolladores deben realizar una evaluación previa para determinar si el sistema cumple con los requisitos y estándares técnicos pertinentes. Un método de evaluación de riesgos es realizar pruebas en un espacio separado con medidas de seguridad implementadas antes de ponerlo en práctica.

En cuarto lugar, el principio de seguridad: los desarrolladores deben garantizar que el sistema de inteligencia artificial no cause daños a la vida, el cuerpo o la propiedad de los usuarios o de terceros, incluso a través de intermediarios.

5. Principios de seguridad: Además de cumplir con los documentos, instrucciones e implementar las medidas de seguridad de la información según lo prescrito, los desarrolladores deben prestar atención a puntos como: Confiabilidad y resistencia a ataques físicos o accidentes del sistema; seguridad; integridad; y la disponibilidad de la información necesaria relacionada con la seguridad de la información del sistema…

6º, privacidad: Los desarrolladores deben asegurarse de que los sistemas de inteligencia artificial no violen la privacidad de los usuarios o de terceros. La privacidad incluye la privacidad espacial (tranquilidad en la vida personal), la privacidad de la información (datos personales) y la confidencialidad de las comunicaciones. Los desarrolladores deben aplicar las normativas y directrices vigentes; Se pueden consultar normas y directrices internacionales sobre privacidad.

Los desarrolladores deben realizar una evaluación previa de los riesgos a la privacidad y una evaluación previa de los impactos sobre la privacidad. En la medida de lo posible, adoptar medidas adecuadas a las características de la tecnología aplicada durante el desarrollo del sistema para evitar la vulneración de la privacidad al ponerse en uso.

Séptimo, respeto a los derechos humanos y la dignidad: al desarrollar sistemas de inteligencia artificial que involucran humanos, los desarrolladores deben tener especial cuidado en respetar los derechos humanos y la dignidad de los individuos involucrados. En la medida de lo posible, dependiendo de las características de la tecnología aplicada, los desarrolladores deben tomar medidas para garantizar que no provoquen discriminación o injusticia debido al sesgo en los datos al entrenar el sistema.

Los desarrolladores deben tomar precauciones para garantizar que el sistema no viole los valores humanos y la ética social de acuerdo con los principios básicos de Vietnam (por ejemplo, valores que incluyen patriotismo, solidaridad, autosuficiencia, lealtad, honestidad, responsabilidad, disciplina, creatividad, etc.).

8. Soporte al usuario: Para brindar soporte a los usuarios, los desarrolladores de sistemas deben prestar atención a puntos como: Crear interfaces listas para usar para brindar información oportuna y relevante para ayudar a los usuarios a tomar decisiones y usarlas de manera conveniente; tomar medidas para que el sistema sea más fácil de utilizar para los miembros vulnerables de la sociedad (personas mayores, discapacitadas)….

9. Responsabilidad: Los desarrolladores deben ejercer responsabilidad por los sistemas que desarrollan para garantizar la confianza de los usuarios. En concreto, es necesario proporcionar a los usuarios información que les ayude a seleccionar y utilizar el sistema. Además, para aumentar la aceptación social de los sistemas, los desarrolladores deberían hacer más: proporcionar a los usuarios información y descripciones de las características técnicas de los sistemas que desarrollan, algoritmos, mecanismos de seguridad, etc.; Escuchar opiniones y dialogar con las partes interesadas.

Fuente: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html