Датчики безопасности на базе искусственного интеллекта в беспилотных автомобилях менее точны для цветных людей и детей

Бурное развитие искусственного интеллекта (ИИ) выявило четкую тенденцию: предвзятость в обучении систем машинного обучения приводит к дискриминационному поведению в реальном мире.

Недавнее исследование, проведенное группой ученых из Великобритании и Китая, показало, что программное обеспечение для обнаружения пешеходов, установленное на беспилотных автомобилях (которое используют многие автопроизводители), может быть менее эффективным, если объектами являются цветные люди или дети, в результате чего эти люди подвергаются большему риску при участии в дорожном движении.

Искусственный интеллект в беспилотных автомобилях, как правило, менее эффективен при управлении цветными людьми и детьми, что может привести к серьезным авариям.

Хотя гендерные различия в точности были незначительными, исследователи обнаружили, что система ИИ была менее точна в распознавании пешеходов с более темным оттенком кожи.

«Представители меньшинств, которым было отказано во многих важных услугах, теперь сталкиваются с серьезным риском несчастных случаев», — сказал Цзе Чжан, компьютерный специалист из Королевского колледжа Лондона и член исследовательской группы.

В частности, в отчете отмечается, что система на 19,67% чаще обнаруживает взрослых, чем детей, и на 7,52% реже обнаруживает людей с более темным оттенком кожи.

«В целом это исследование проливает свет на проблемы справедливости, с которыми сталкиваются современные системы обнаружения пешеходов, подчеркивая важность устранения предубеждений, связанных с возрастом и цветом кожи», — сообщает группа. «Полученные знания могут проложить путь к более справедливым и беспристрастным системам автономного вождения в будущем».

По словам членов исследовательской группы, в их отчете не использовалось то самое программное обеспечение, которое такие компании, как Tesla, устанавливают в своих автомобилях, поскольку это коммерческая тайна. Вместо этого исследование опиралось на аналогичные ИИ с открытым исходным кодом, используемые предприятиями.

«Чрезвычайно важно, чтобы политики принимали законы и нормативные акты, защищающие права всех людей и надлежащим образом решающие эти проблемы». Группа призывает законодателей регулировать программное обеспечение для беспилотных автомобилей, чтобы исключить предвзятость в их системах обнаружения.

(По данным Insider)

Источник