VCCI: La normativa sobre la responsabilidad de las entidades de desarrollo de IA no es adecuada

DNVN - Según VCCI, el desarrollo de un sistema de inteligencia artificial (IA) puede requerir la participación de muchas entidades diferentes. Debido a que solo asumen una parte del sistema de IA, estas entidades no pueden controlar los riesgos. Por lo tanto, es imposible llevar a cabo las responsabilidades previstas en el Proyecto de Ley de la Industria de Tecnología Digital.

La Comisión de Ciencia, Tecnología y Medio Ambiente de la Asamblea Nacional está buscando comentarios sobre el Proyecto de Ley sobre la Industria de Tecnología Digital (Borrador).

Uno de los contenidos destacables del borrador es la responsabilidad del sujeto desarrollador de sistemas de inteligencia artificial (IA). El artículo 46.1 del Proyecto establece las responsabilidades de las entidades que desarrollan sistemas de IA.

Sin embargo, basándose en las opiniones empresariales, la Federación de Comercio e Industria de Vietnam (VCCI) cree que esta regulación no es adecuada porque su alcance es demasiado amplio y abarca muchos temas diferentes.

Un sistema de IA consta de muchos componentes diferentes, incluidos: modelo de IA, datos de entrada, hardware (centro de datos, robot), interfaz de usuario...

El desarrollo de un sistema de IA puede requerir la participación de muchos actores diferentes. Debido a que solo asumen una parte del sistema de IA, estas entidades no pueden controlar los riesgos. Por lo tanto, no es posible llevar a cabo las responsabilidades previstas en el proyecto.

Experimente las aplicaciones de IA en el Día de la Inteligencia Artificial de Vietnam 2023.

Por ejemplo, un proveedor de servicios de computación en la nube para un sistema de IA no puede evaluar y explicar los riesgos de seguridad del sistema de IA. De manera similar, los proveedores de servicios back-end, como los que brindan acceso a modelos de lenguaje grandes (LLM), solo proporcionan un componente de un sistema de IA y no tienen control sobre el producto terminado. Por tanto, esta regulación no será viable para muchas entidades involucradas en el desarrollo del sistema.

De hecho, sólo la entidad responsable de desarrollar el modelo de IA controla dicho modelo y es capaz de cumplir con estas obligaciones.

A partir del análisis anterior, VCCI propone modificarlo en el sentido de que el tema sea "desarrollador de modelos de IA".

El artículo 46.1.b exige que los desarrolladores de modelos de IA sean responsables de garantizar la privacidad, la información personal y resolver con prontitud las solicitudes individuales de conformidad con la ley de protección de datos personales.

Según VCCI, esta regulación no es adecuada para la forma actual de entrenar modelos de IA. Para una empresa que desarrolla un modelo de IA utilizando datos públicos en Internet, es imposible proteger la privacidad y abordar las solicitudes de información personal. Además, también se está redactando la Ley de Protección de Datos Personales y se espera que se apruebe en mayo de 2025.

Por lo tanto, para evitar la superposición y hacer inviable la regulación, VCCI propone eliminar esta regulación.

Respecto del etiquetado de los productos generados por IA, el artículo 45 del proyecto exige que los productos generados por sistemas de IA tengan marcas de identificación claras. Esta reglamentación parece inadecuada porque corre el riesgo de quedar obsoleta antes de ser promulgada.

Hoy en día, la tecnología de etiquetado de productos generada por IA cuenta con desarrollos avanzados que permiten el etiquetado en formatos legibles por máquina sin visualización humana directa, como SynthID o C2PA.

Para garantizar la viabilidad y la "vitalidad" de la regulación, VCCI propuso modificarla para que el etiquetado de la tecnología se realice en un formato legible por máquina y pueda detectarse como generado o interferido por IA.

La industria de la tecnología digital se desarrolla a un ritmo vertiginoso con cambios continuos y es, además, una industria técnicamente compleja. Por lo tanto, las regulaciones del proyecto deben ser flexibles y adaptarse a las características y la naturaleza de los modelos de negocio de la industria para garantizar su viabilidad y no obstaculizar el desarrollo empresarial, enfatizó VCCI.

Luz de la luna

Fuente: https://doanhnghiepvn.vn/cong-nghe/vcci-quy-dinh-trach-nhiem-cua-chu-the-phat-trien-ai-chua-phu-hop/20250330090110651