Министр науки и технологий Хюинь Тхань Дат только что подписал решение, определяющее ряд принципов исследований и разработок ответственных систем искусственного интеллекта во Вьетнаме. По словам представителя Министерства науки и технологий, в рамках общей мировой тенденции ИИ оценивается как способный принести большую пользу людям, обществу и экономике Вьетнама посредством поддержки и решения сложных проблем, с которыми сталкиваются люди и сообщество.
Однако параллельно с этим процессом необходимо проводить исследования и принимать меры по минимизации рисков в процессе разработки и использования ИИ, а также сбалансировать связанные с этим экономические, этические и правовые факторы. Тем самым поощряется безопасное и ответственное исследование, разработка и использование систем/приложений ИИ, минимизируя негативное воздействие на людей и общество.
 |
В последнее время искусственный интеллект переживает бурный рост. (Иллюстрация: Forbes.com)
Для достижения вышеуказанной цели Министерство науки и технологий устанавливает 9 принципов исследований и разработок ответственных систем ИИ, включая дух сотрудничества и поощрение инноваций; прозрачность; управляемость; безопасный; безопасность; конфиденциальность; уважение прав и достоинства человека; поддержка пользователей и подотчетность.
В вышеперечисленных 9 принципах особое внимание уделяется принципу прозрачности. Организации, разрабатывающие приложения на основе искусственного интеллекта, которые могут повлиять на жизнь, тело, конфиденциальность или имущество пользователей или третьих лиц, должны уделять внимание возможности четко идентифицировать входные и выходные данные системы, а также соответствующей объяснимости на основе характеристик применяемых технологий и того, как они используются, чтобы обеспечить доверие общества, включая пользователей.
Наряду с прозрачностью разработчикам продукта также необходимо проводить предварительную оценку, тестируя технологию в закрытом пространстве, например, в лаборатории или испытательной среде, где приняты меры безопасности, прежде чем внедрять ее на практике.
Продолжайте обновлять принципы
Принципы также призывают разработчиков ИИ гарантировать, что их системы не нарушают конфиденциальность пользователей или третьих лиц. Охваченные права на неприкосновенность частной жизни включают пространственную конфиденциальность (спокойствие в личной жизни), конфиденциальность информации (персональные данные) и конфиденциальность сообщений. Разработчикам необходимо применять действующие правила и рекомендации (компетентных органов и агентств), а также ссылаться на международные стандарты и рекомендации по конфиденциальности.
Принципы также рекомендуют разработчикам приложений уважать права и достоинство человека и принимать меры для обеспечения того, чтобы они не вызывали дискриминации или несправедливости из-за предвзятости (предубежденности) в данных при обучении систем ИИ.
Другой принцип заключается в том, что разработчики ИИ должны нести ответственность перед заинтересованными сторонами, включая пользователей систем ИИ. Кроме того, необходимо обмениваться информацией и тесно сотрудничать с поставщиками для обеспечения обновлений и решения сопутствующих вопросов в процессе предоставления услуг и использования систем искусственного интеллекта.
По словам представителя Министерства науки и технологий, на текущем этапе временно определено, что набор принципов может иметь форму руководств, не носить обязательный характер и поощрять разработку и применение стандартов и практических процессов, основанных на международных рекомендациях, в качестве основы для содействия исследованиям, разработкам и использованию систем ИИ. В будущем эти принципы и рекомендации будут продолжать изучаться и обновляться с учетом практической ситуации развития.
Нгуен Хоай
Источник : https://tienphong.vn/han-che-tieu-cuc-khi-phat-trien-ai-post1646840.tpo
Комментарий (0)