ЮНЕСКО: инструменты ИИ предвзяты по отношению к женщинам

Многие из самых популярных в мире инструментов искусственного интеллекта (ИИ) основаны на программах, предвзятых по отношению к женщинам, разработанных такими компаниями, как OpenAI и Meta. Таковы результаты нового исследования, опубликованного Организацией Объединенных Наций по вопросам образования, науки и культуры (ЮНЕСКО) 7 марта.

Крупнейшие компании в гонке за искусственный интеллект теперь используют огромные объемы данных из Интернета для обучения алгоритмов, известных как большие языковые модели (LLM). ЮНЕСКО протестировала алгоритм Llama 2 компании Meta, а также GPT-2 и GPT-3.5 компании OpenAI, используемые в популярном чат-приложении ChatGPT. Результаты тестирования показали, что каждый из этих алгоритмов продемонстрировал явные доказательства предвзятости в отношении женщин.

Результаты показали, что тексты, связанные с женскими именами, сгенерированные этими инструментами, часто содержали такие слова, как «дом», «семья» или «дети», в то время как тексты, связанные с мужскими именами, часто содержали такие слова, как «бизнес», «зарплата» или «карьера»; Мужчин часто изображают на таких должностях, как учителя, юристы, врачи; Женщины часто ассоциируются с такими работами, как приготовление пищи, работа по дому и т. д.

ДО ЦАО

Источник: https://www.sggp.org.vn/unesco-cac-cong-cu-ai-dinh-kien-voi-nu-gioi-post729797.html