KI-Sicherheitssensoren in selbstfahrenden Autos sind für Menschen mit dunkler Hautfarbe und Kinder weniger genau

[Anzeige_1]

Die explosionsartige Verbreitung künstlicher Intelligenz (KI) hat einen klaren Trend mit sich gebracht: Voreingenommenheit beim Training maschineller Lernsysteme führt zu diskriminierendem Verhalten in der realen Welt.

Eine aktuelle Studie einer Gruppe von Wissenschaftlern in Großbritannien und China zeigt, dass die in selbstfahrenden Fahrzeugen verbaute Fußgängererkennungssoftware – die von vielen Autoherstellern eingesetzt wird – weniger effektiv sein kann, wenn es sich bei den Probanden um farbige Menschen oder Kinder handelt. Dies führt dazu, dass diese Menschen bei der Teilnahme am Straßenverkehr einem größeren Risiko ausgesetzt sind.

KI in selbstfahrenden Autos ist bei Farbigen und Kindern tendenziell weniger effektiv, was zu schweren Unfällen führen kann.

Obwohl es nur geringe Unterschiede hinsichtlich der Genauigkeit zwischen den Geschlechtern gab, stellten die Forscher fest, dass das KI-System bei der Erkennung von Fußgängern mit dunklerem Hautton weniger genau war.

„Angehörende Minderheiten, denen viele wichtige Dienstleistungen vorenthalten wurden, sind nun einem ernsthaften Unfallrisiko ausgesetzt“, sagte Jie Zhang, Informatiker am King’s College London und Mitglied des Forschungsteams.

Konkret wurde in dem Bericht darauf hingewiesen, dass das System Erwachsene mit 19,67 % höherer Wahrscheinlichkeit als Kinder erkennt und Menschen mit dunklerer Hautfarbe mit 7,52 % geringerer Wahrscheinlichkeit erkennt.

„Insgesamt wirft diese Forschung Licht auf die Fairnessprobleme, mit denen aktuelle Fußgängererkennungssysteme konfrontiert sind, und unterstreicht, wie wichtig es ist, alters- und hautfarbenbedingte Vorurteile anzugehen“, berichtet das Team. „Die gewonnenen Erkenntnisse könnten den Weg für fairere und unvoreingenommenere autonome Fahrsysteme in der Zukunft ebnen.“

Laut Angaben der Mitglieder des Forschungsteams wurde in ihrem Bericht nicht genau die Software verwendet, die Unternehmen wie Tesla in ihren Autos installieren, da es sich hierbei um ein Geschäftsgeheimnis handelt. Stattdessen stützte sich die Untersuchung auf ähnliche Open-Source-KIs, die in Unternehmen eingesetzt werden.

„Es ist von entscheidender Bedeutung, dass die politischen Entscheidungsträger Gesetze und Vorschriften erlassen, die die Rechte aller Menschen schützen und diesen Anliegen angemessen Rechnung tragen.“ Das Team fordert die Gesetzgeber auf, die Software für selbstfahrende Autos zu regulieren, um eine Verzerrung der Erkennungssysteme zu verhindern.

(Laut Insider)

[Anzeige_2]
Quelle