Бурное развитие искусственного интеллекта (ИИ) выявило четкую тенденцию: предвзятость в обучении систем машинного обучения приводит к дискриминационному поведению в реальном мире.
Недавнее исследование, проведенное группой ученых из Великобритании и Китая, показало, что программное обеспечение для обнаружения пешеходов, установленное на беспилотных автомобилях (которое используют многие автопроизводители), может быть менее эффективным, если объектами являются цветные люди или дети, в результате чего эти люди подвергаются большему риску при участии в дорожном движении.
Хотя гендерные различия в точности были незначительными, исследователи обнаружили, что система ИИ была менее точна в распознавании пешеходов с более темным оттенком кожи.
«Представители меньшинств, которым было отказано во многих важных услугах, теперь сталкиваются с серьезным риском несчастных случаев», — сказал Цзе Чжан, компьютерный специалист из Королевского колледжа Лондона и член исследовательской группы.
В частности, в отчете отмечается, что система на 19,67% чаще обнаруживает взрослых, чем детей, и на 7,52% реже обнаруживает людей с более темным оттенком кожи.
«В целом это исследование проливает свет на проблемы справедливости, с которыми сталкиваются современные системы обнаружения пешеходов, подчеркивая важность устранения предубеждений, связанных с возрастом и цветом кожи», — сообщает группа. «Полученные знания могут проложить путь к более справедливым и беспристрастным системам автономного вождения в будущем».
По словам членов исследовательской группы, в их отчете не использовалось то самое программное обеспечение, которое такие компании, как Tesla, устанавливают в своих автомобилях, поскольку это коммерческая тайна. Вместо этого исследование опиралось на аналогичные ИИ с открытым исходным кодом, используемые предприятиями.
«Чрезвычайно важно, чтобы политики принимали законы и нормативные акты, защищающие права всех людей и надлежащим образом решающие эти проблемы». Группа призывает законодателей регулировать программное обеспечение для беспилотных автомобилей, чтобы исключить предвзятость в их системах обнаружения.
(По данным Insider)
Источник
Комментарий (0)