Changer pour mieux protéger les enfants

SGGP 29/11/2023 06:52

Le gouvernement australien a publié des propositions pour un plan visant à accroître les obligations des entreprises en ligne afin de protéger les enfants et les autres utilisateurs d’Internet contre les contenus préjudiciables.

L'Australie espère que les changements réglementaires proposés permettront de renforcer la sécurité des enfants en ligne

Les changements proposés font suite aux critiques selon lesquelles le gouvernement ne faisait pas assez pour assurer la sécurité des enfants en ligne, selon la ministre australienne des Communications, Michelle Rowland.

Les changements proposés étendraient la portée de la réglementation pour inclure les algorithmes, l'intelligence artificielle synthétique (IA) et garantiraient que les meilleurs intérêts des enfants soient au premier plan lors de la conception de tout service, a déclaré Mme Rowland.

« Nous savons que les enfants sont vulnérables aux contenus préjudiciables sur Internet et il est essentiel que leurs intérêts supérieurs soient prioritaires tout au long de la conception et de la mise en œuvre des services », a déclaré Mme Rowland, soulignant pourquoi les enfants devraient être au premier plan de la conception du contenu auquel ils peuvent accéder. La consultation sur les changements proposés aux fournisseurs de services en ligne, y compris les services de médias sociaux, se terminera en février 2024. Plus tôt en août, l'organisme australien de surveillance de la sécurité en ligne eSafety a appelé à une surveillance réglementaire du secteur des technologies de communication.

Selon eSafety, l'agence a reçu des plaintes concernant des enfants utilisant des ordinateurs pour créer des images pornographiques de leurs pairs à des fins d'intimidation. eSafety stipule que les fournisseurs de services doivent prendre des « mesures raisonnables » pour atténuer de manière proactive la mesure dans laquelle les capacités de l’IA créent du matériel ou des conditions pour des activités illégales ou nuisibles, y compris la contrefaçon de films par l’IA.

eSafety a averti que des procédures de vérification de l'âge plus strictes sont nécessaires sur les sites Web utilisés par les enfants pour éviter qu'ils ne soient obligés de créer eux-mêmes du matériel ou du contenu sexuellement abusif. L’analyse de plus de 1 300 rapports d’abus sexuels sur enfants obtenus par eSafety a révélé qu’un enfant sur huit « générait » lui-même le contenu parce que les « prédateurs » les forçaient à se filmer et à se photographier dans des actes sexuellement explicites. En fait, les enfants peuvent facilement contourner la vérification de l’âge lorsqu’ils rejoignent des sites en ligne.

Le 26 novembre, les États-Unis, le Royaume-Uni et plus de 10 autres pays ont annoncé un accord international sur la sécurité de l’IA. Selon les responsables américains, il s'agit du premier accord détaillé sur la manière de garantir que la technologie de l'IA soit utilisée en toute sécurité, et il exhorte également les entreprises technologiques à créer des systèmes d'IA sûrs dès la phase de conception. Selon le document, 18 pays ont convenu que les entreprises qui conçoivent et utilisent l’IA doivent développer et déployer cette technologie avancée. L’accord n’est pas contraignant et contient principalement des recommandations générales, telles que la surveillance des abus de l’IA, la protection des données, etc.

Source