Cambiar para proteger mejor a los niños

[anuncio_1]

SGGP 29/11/2023 06:52

El gobierno australiano ha publicado propuestas para un plan que busca aumentar las obligaciones de las empresas en línea para proteger a los niños y otros usuarios de Internet de contenido dañino.

Australia espera que los cambios regulatorios propuestos mantengan a los niños más seguros en línea

Los cambios propuestos llegan después de las críticas de que el gobierno no estaba haciendo lo suficiente para mantener a los niños seguros en línea, según la ministra de Comunicaciones de Australia, Michelle Rowland.

Los cambios propuestos ampliarían el alcance de la regulación para incluir algoritmos, inteligencia artificial sintética (IA) y garantizarían que los intereses superiores de los niños estén en primer plano al diseñar cualquier servicio, dijo Rowland.

“Sabemos que los niños son vulnerables a contenido dañino en Internet y es vital que sus mejores intereses se prioricen en todo el diseño e implementación de los servicios”, dijo la Sra. Rowland, explicando por qué los niños deben estar a la vanguardia del diseño de contenido al que puedan acceder. La consulta sobre los cambios propuestos para los proveedores de servicios en línea, incluidos los servicios de redes sociales, cerrará en febrero de 2024. A principios de agosto, el organismo de control de seguridad en línea de Australia, eSafety, pidió una supervisión regulatoria de la industria de la tecnología de las comunicaciones.

Según eSafety, la agencia ha recibido quejas sobre niños que utilizan computadoras para crear imágenes pornográficas de sus compañeros con fines de acoso. eSafety establece que los proveedores de servicios deben tomar “medidas razonables” para mitigar de forma proactiva el grado en que las capacidades de IA crean material o condiciones para actividades ilegales o dañinas, incluida la falsificación de películas habilitada por IA.

eSafety ha advertido que se necesitan procedimientos de verificación de edad más estrictos en los sitios web utilizados por niños para evitar que se les obligue a crear material o contenido sexualmente abusivo. El análisis de más de 1.300 informes de abuso sexual infantil obtenidos por eSafety encontró que 1 de cada 8 niños “generaron” el contenido ellos mismos porque los “depredadores” los obligaron a filmarse y fotografiarse en actos sexualmente explícitos. De hecho, los niños pueden eludir fácilmente la verificación de edad cuando se unen a sitios en línea.

El 26 de noviembre, Estados Unidos, el Reino Unido y más de 10 países anunciaron un acuerdo internacional sobre la seguridad de la IA. Según funcionarios estadounidenses, este es el primer acuerdo detallado sobre cómo garantizar que la tecnología de IA se utilice de forma segura, y también insta a las empresas de tecnología a crear sistemas de IA seguros desde la etapa de diseño. Según el documento, 18 países acordaron que las empresas que diseñan y utilizan IA necesitan desarrollar e implementar esta tecnología avanzada. El acuerdo no es vinculante y principalmente hace recomendaciones generales, como monitorear el abuso de IA, protección de datos, etc.

[anuncio_2]
Fuente