Investigar y desarrollar sistemas de IA responsables

DNVN - Según el ministro de Ciencia y Tecnología, Huynh Thanh Dat, la investigación y el desarrollo de sistemas de inteligencia artificial (IA) en Vietnam deben apuntar a una sociedad centrada en el ser humano, donde todos se beneficien de la vida y de estos sistemas.

El Ministro de Ciencia y Tecnología, Huynh Thanh Dat, acaba de emitir la Decisión 1290 sobre la orientación de una serie de principios para la investigación y el desarrollo responsables de sistemas de inteligencia artificial (IA).

Junto con esta decisión se publica un documento que guía una serie de principios sobre la investigación y el desarrollo de sistemas de IA responsables (versión 1.0).

El documento de orientación establece: Siguiendo la tendencia general en el mundo, se evalúa que los sistemas de IA aportan grandes beneficios a las personas, la sociedad y la economía vietnamita al apoyar y resolver problemas difíciles que enfrentan las personas y las comunidades.

Sin embargo, paralelamente a ese proceso, es necesario investigar y contar con medidas para minimizar los riesgos en el proceso de desarrollo y uso de la IA y equilibrar los factores económicos, éticos y legales relacionados.

La investigación y el desarrollo de sistemas de IA responsables son esenciales.

Por lo tanto, las agencias profesionales necesitan investigar y desarrollar estándares y pautas de orientación, incluso si son regulaciones blandas y no vinculantes. Compartir e intercambiar información sobre procesos y buenas prácticas entre partes interesadas, como desarrolladores, proveedores de servicios y usuarios, también promoverá el consenso para aumentar los beneficios de los sistemas de IA y controlar los riesgos.

Con ese espíritu, la investigación y el desarrollo de sistemas de IA en Vietnam deben apuntar a una sociedad centrada en el ser humano, donde las personas disfruten de los beneficios de la vida y de los sistemas de IA.

Garantizar un equilibrio razonable entre los beneficios y los riesgos de los sistemas de IA. Garantizar que las actividades de investigación y desarrollo de sistemas de IA se basen en tecnologías o técnicas específicas, garantizando al mismo tiempo la neutralidad tecnológica y que los desarrolladores no se vean afectados por el rápido desarrollo de tecnologías relacionadas con la IA en el futuro.

En esta etapa, se determina provisionalmente que los documentos podrán tener la forma de directrices, tener carácter no vinculante y fomentar el desarrollo y la aplicación de normas y prácticas basadas en recomendaciones internacionales como base para promover la investigación, el desarrollo y el uso de sistemas de IA.

En todos los casos, se debe fomentar el intercambio y el debate con la participación de las partes involucradas en el sistema, aunque la investigación y el desarrollo de sistemas de IA en diferentes campos tienen diferentes características, métodos de uso, beneficios y riesgos.

Además, se seguirán investigando y actualizando los principios y directrices para adaptarlos a la situación práctica.

El documento de orientación anterior tiene como objetivo promover el interés de las partes interesadas en la investigación, el desarrollo y el uso responsables de sistemas/aplicaciones de IA en Vietnam.

Promover la investigación, el desarrollo y el uso de sistemas/aplicaciones de IA de forma segura y responsable, minimizando los impactos negativos en las personas y las comunidades.

Promover el intercambio de experiencias en investigación, desarrollo y uso de sistemas/aplicaciones de IA para ganar la confianza de los usuarios y de la sociedad en la IA también está creando condiciones favorables para la investigación y el desarrollo de IA en Vietnam.

Este documento de orientación describe algunos principios generales que deben tenerse en cuenta en la investigación y el desarrollo responsables de sistemas de IA y recomienda su referencia y aplicación voluntaria en el proceso de investigación, diseño, desarrollo y suministro de sistemas de IA.

Se alienta a las agencias científicas y tecnológicas, organizaciones, empresas e individuos involucrados en la investigación, el diseño, el desarrollo y el suministro de sistemas de IA a aplicar el contenido del documento de orientación.

Thu An

Fuente: https://doanhnghiepvn.vn/cong-nghe/nghien-cuu-phat-trien-he-thong-ai-co-trach-nhiem/20240615031118282