L’explosion de l’intelligence artificielle (IA) a fait apparaître une tendance claire : les biais dans la formation des systèmes d’apprentissage automatique conduisent à des comportements discriminatoires dans le monde réel.
Une étude récente menée par un groupe de scientifiques au Royaume-Uni et en Chine montre que les logiciels de détection des piétons équipés sur les véhicules autonomes - utilisés par de nombreux constructeurs automobiles - peuvent être moins efficaces lorsque les sujets sont des personnes de couleur ou des enfants, ce qui fait que ces personnes sont plus à risque lorsqu'elles participent à la circulation.
Bien que le sexe n'ait montré que de petites différences de précision, les chercheurs ont constaté que le système d'IA était moins précis pour reconnaître les piétons ayant une peau plus foncée.
« Les membres des minorités qui se sont vu refuser de nombreux services importants sont désormais confrontés à de graves risques d'accident », a déclaré Jie Zhang, informaticien au King's College de Londres et membre de l'équipe de recherche.
Plus précisément, le rapport note que le système est 19,67 % plus susceptible de détecter les adultes que les enfants et 7,52 % moins susceptible de détecter les personnes ayant une peau plus foncée.
« Dans l’ensemble, cette recherche met en lumière les problèmes d’équité auxquels sont confrontés les systèmes actuels de détection des piétons, soulignant l’importance de s’attaquer aux préjugés liés à l’âge et à la couleur de la peau », rapporte l’équipe. « Les connaissances acquises pourraient ouvrir la voie à des systèmes de conduite autonome plus justes et plus impartiaux à l’avenir. »
Selon les membres de l'équipe de recherche, leur rapport n'a pas utilisé le logiciel exact que des entreprises comme Tesla installent dans leurs voitures, car il s'agit d'un secret commercial, mais la recherche s'est appuyée sur des IA open source similaires utilisées par les entreprises.
« Il est essentiel que les décideurs politiques adoptent des lois et des réglementations qui protègent les droits de tous les individus et répondent de manière appropriée à ces préoccupations. » L’équipe appelle les législateurs à réglementer les logiciels de voitures autonomes pour éviter toute partialité dans leurs systèmes de détection.
(Selon Insider)
Source
Comment (0)