Исследования и разработка ответственных систем искусственного интеллекта.

По данным Министерства науки и технологий, следуя общей мировой тенденции, ожидается, что системы искусственного интеллекта принесут большую пользу людям, обществу и экономике Вьетнама за счет поддержки и решения сложных проблем, с которыми сталкиваются люди и сообщество. Параллельно с этим процессом необходимо проводить исследования и принимать меры по минимизации рисков в процессе разработки и использования искусственного интеллекта, а также учитывать сопутствующие экономические, этические и правовые факторы. Поэтому профессиональным агентствам необходимо исследовать и разрабатывать стандарты и руководящие принципы, даже если они представляют собой мягкие и необязательные правила.

В рекомендациях Министерства науки и технологий изложены девять принципов ответственного исследования и разработки систем искусственного интеллекта.

Во-первых, дух сотрудничества и инноваций: разработчикам необходимо учитывать взаимосвязь и взаимодействие между своими системами ИИ и другими системами ИИ, принимая во внимание разнообразие систем, чтобы повысить преимущества системы, одновременно улучшая координацию для контроля рисков.

Во-вторых, прозрачность: системы искусственного интеллекта, которые следуют этому принципу, часто являются системами, которые могут влиять на жизнь, тело, конфиденциальность или имущество пользователей или соответствующих третьих лиц. Затем разработчикам необходимо обратить внимание на способность четко идентифицировать входы и выходы системы, а также на связанную с этим объяснимость на основе характеристик применяемых технологий и того, как они используются, чтобы обеспечить доверие со стороны общества, включая пользователей.

В-третьих, управляемость: чтобы оценить риски, связанные с управляемостью системы, разработчикам необходимо провести предварительную оценку того, соответствует ли система соответствующим техническим требованиям и стандартам. Одним из методов оценки риска является проведение испытаний в отдельном помещении с соблюдением мер безопасности и защиты перед их реализацией на практике.

В-четвертых, принцип безопасности: разработчикам необходимо гарантировать, что система искусственного интеллекта не причинит вреда жизни, телу или имуществу пользователей или третьих лиц, в том числе через посредников.

5. Принципы безопасности: Помимо соблюдения документов, инструкций и реализации предписанных мер информационной безопасности, разработчикам необходимо уделять внимание таким моментам, как: Надежность и устойчивость к физическим атакам или авариям системы; безопасность; честность; и наличие необходимой информации, касающейся информационной безопасности системы…

6. Конфиденциальность: Разработчикам необходимо гарантировать, что системы искусственного интеллекта не нарушают конфиденциальность пользователей или третьих лиц. Конфиденциальность включает пространственную конфиденциальность (спокойствие в личной жизни), конфиденциальность информации (персональные данные) и конфиденциальность сообщений. Разработчикам необходимо применять действующие правила и рекомендации; Вы можете ознакомиться с международными стандартами и рекомендациями по защите конфиденциальности.

Разработчикам следует провести предварительную оценку рисков нарушения конфиденциальности и провести предварительную оценку воздействия на конфиденциальность. По возможности примите меры, соответствующие характеристикам технологии, применяемой при разработке системы, чтобы избежать нарушения конфиденциальности при ее использовании.

В-седьмых, уважение прав и достоинства человека. При разработке систем искусственного интеллекта, в которых задействованы люди, разработчики должны проявлять особую осторожность и уважать права и достоинство вовлеченных лиц. По возможности, в зависимости от характеристик применяемой технологии, разработчики должны принимать меры для того, чтобы не допустить дискриминации или несправедливости из-за предвзятости данных при обучении системы.

Разработчикам необходимо принять меры предосторожности, чтобы гарантировать, что система не нарушает общечеловеческие ценности и социальную этику в соответствии с основными принципами Вьетнама (например, ценности, включающие патриотизм, солидарность, самостоятельность, лояльность, честность, ответственность, дисциплину, креативность и т. д.).

8-е, поддержка пользователей: Для поддержки пользователей разработчикам системы необходимо уделять внимание таким моментам, как: Создание готовых интерфейсов для предоставления своевременной и актуальной информации, помогающей пользователям принимать решения и удобно пользоваться; принять меры по упрощению использования системы для уязвимых членов общества (пожилых людей, инвалидов)…

9. Ответственность: Разработчики должны нести ответственность за разрабатываемые ими системы, чтобы обеспечить доверие пользователей. В частности, необходимо предоставить пользователям информацию, которая поможет им выбрать и использовать систему. Кроме того, для повышения общественного признания систем разработчикам следует делать больше: Предоставлять пользователям информацию и описания технических характеристик разрабатываемых ими систем, алгоритмов, механизмов безопасности и т. д.; выслушивать мнения и вести диалог с заинтересованными сторонами.

Источник: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html