Los sensores de seguridad de IA en los vehículos autónomos son menos precisos para las personas de color y los niños

[anuncio_1]

La explosión de la inteligencia artificial (IA) ha traído consigo una tendencia clara: el sesgo en el entrenamiento de los sistemas de aprendizaje automático conduce a un comportamiento discriminatorio en el mundo real.

Un estudio reciente realizado por un grupo de científicos del Reino Unido y China muestra que el software de detección de peatones equipado en los vehículos autónomos (que utilizan muchos fabricantes de automóviles) puede ser menos eficaz cuando los sujetos son personas de color o niños, lo que hace que estas personas corran un mayor riesgo al participar en el tráfico.

La IA en los coches autónomos tiende a ser menos eficaz con personas de color y niños, lo que puede provocar accidentes graves.

Aunque el género mostró solo pequeñas diferencias en la precisión, los investigadores encontraron que el sistema de IA era menos preciso al reconocer a los peatones con tonos de piel más oscuros.

"Las personas pertenecientes a minorías a las que se les han negado muchos servicios importantes ahora enfrentan graves riesgos de sufrir accidentes", dijo Jie Zhang, científico informático del King's College de Londres y miembro del equipo de investigación.

En concreto, el informe señaló que el sistema tenía un 19,67% más de probabilidades de detectar a adultos que a niños, y un 7,52% menos de probabilidades de detectar a personas con tonos de piel más oscuros.

“En general, esta investigación arroja luz sobre los problemas de equidad que enfrentan los sistemas actuales de detección de peatones, destacando la importancia de abordar los sesgos relacionados con la edad y el color de la piel”, informa el equipo. “Los conocimientos adquiridos podrían allanar el camino para sistemas de conducción autónoma más justos e imparciales en el futuro”.

Según los miembros del equipo de investigación, su informe no utilizó el mismo software que empresas como Tesla instalan en sus coches, ya que se trata de un secreto comercial, sino que la investigación se basó en IA de código abierto similares a las que utilizan las empresas.

“Es esencial que los responsables de las políticas promulguen leyes y regulaciones que protejan los derechos de todas las personas y aborden adecuadamente estas preocupaciones”. El equipo pide a los legisladores que regulen el software de los coches autónomos para evitar sesgos en sus sistemas de detección.

(Según Insider)

[anuncio_2]
Fuente