책임감 있는 인공지능 시스템을 연구하고 개발합니다.

과학기술부에 따르면, 세계의 전반적인 추세에 따라 인공지능 시스템은 사람들과 지역 사회가 직면하고 있는 어려운 문제를 지원하고 해결함으로써 사람, 사회, 그리고 베트남 경제에 큰 혜택을 가져올 것으로 기대됩니다. 그러한 과정과 병행하여 인공지능을 개발하고 활용하는 과정에서 위험을 최소화하고, 관련된 경제적, 윤리적, 법적 요소의 균형을 맞추기 위한 연구와 대책을 마련하는 것이 필요합니다. 따라서 전문 기관에서는 비록 구속력이 없고 부드러운 규정이라 할지라도 지침을 위한 표준과 가이드라인을 연구하고 개발해야 합니다.

과학기술부는 이 지침에서 인공지능 시스템의 책임 있는 연구 개발을 위한 9가지 원칙을 제시했습니다.

첫째, 협력과 혁신 정신입니다. 개발자는 시스템의 다양성을 고려하여 AI 시스템과 다른 AI 시스템 간의 연결성과 상호 운용성을 고려해야 하며, 이를 통해 시스템의 이점을 높이고 위험을 제어하기 위한 조정을 강화해야 합니다.

두 번째, 투명성: 이 원칙을 따르는 인공지능 시스템은 종종 사용자 또는 관련 제3자의 생명, 신체, 사생활 또는 재산에 영향을 미칠 수 있는 시스템입니다. 개발자는 사용자를 포함한 사회의 신뢰를 확보하기 위해 적용된 기술의 특성과 이를 사용하는 방법을 기반으로 시스템의 입력 및 출력을 명확하게 식별하고 이와 관련된 설명 가능성을 확보하는 능력에 주의를 기울여야 합니다.

셋째, 제어 가능성: 시스템 제어 가능성과 관련된 위험을 평가하기 위해 개발자는 시스템이 관련 기술 요구 사항과 표준을 충족하는지에 대한 사전 평가를 수행해야 합니다. 위험성 평가 방법 중 하나는 실제로 적용하기 전에 보안 및 안전 조치가 마련된 별도의 공간에서 테스트하는 것입니다.

넷째, 안전 원칙: 개발자는 인공지능 시스템이 중개자를 통한 경우를 포함하여 사용자나 제3자의 생명, 신체, 재산에 해를 끼치지 않도록 보장해야 합니다.

5. 보안 원칙: 개발자는 문서 및 지침을 준수하고 규정에 따라 정보 보안 조치를 구현하는 것 외에도 시스템의 안정성 및 물리적 공격이나 사고에 대한 저항성과 같은 사항에 주의해야 합니다. 보안; 진실성; 그리고 시스템의 정보 보안과 관련된 필요한 정보의 가용성…

6. 개인정보 보호: 개발자는 인공지능 시스템이 사용자 또는 제3자의 개인정보를 침해하지 않도록 해야 합니다. 개인 정보 보호에는 공간적 개인 정보 보호(개인 생활에 대한 마음의 평화), 정보 개인 정보 보호(개인 데이터) 및 통신의 비밀 유지가 포함됩니다. 개발자는 현재의 규정과 지침을 적용해야 합니다. 개인정보보호에 관한 국제 표준 및 지침을 참조할 수 있습니다.

개발자는 개인정보 보호 위험에 대한 사전 평가를 실시하고, 개인정보 보호 영향에 대한 사전 평가를 실시해야 합니다. 가능한 한, 시스템 개발 시 적용된 기술의 특성에 적합한 조치를 취해 실제 사용 시 개인정보 침해가 발생하지 않도록 하세요.

일곱째, 인권과 존엄성에 대한 존중: 인간을 포함하는 인공지능 시스템을 개발할 때, 개발자는 관련된 개인의 인권과 존엄성을 존중하는 데 특별한 주의를 기울여야 합니다. 가능한 한, 적용되는 기술의 특성에 따라 개발자는 시스템을 학습할 때 데이터의 편향으로 인해 차별이나 불공정성이 발생하지 않도록 조치를 취해야 합니다.

개발자는 베트남의 기본 원칙(예: 애국심, 연대, 자립, 충성심, 정직, 책임, 규율, 창의성 등의 가치)에 따라 시스템이 인간의 가치와 사회 윤리를 위반하지 않도록 예방 조치를 취해야 합니다.

8. 사용자 지원: 사용자를 지원하기 위해 시스템 개발자는 다음과 같은 사항에 주의해야 합니다. 사용자가 결정을 내리고 편리하게 사용할 수 있도록 시기적절하고 관련성 있는 정보를 제공하는 기성형 인터페이스를 만듭니다. 사회의 취약계층(노인, 장애인)이 시스템을 보다 쉽게 ​​이용할 수 있도록 조치를 취하세요…

9. 책임성: 개발자는 사용자의 신뢰를 보장하기 위해 자신이 개발한 시스템에 대한 책임을 져야 합니다. 구체적으로, 사용자가 시스템을 선택하고 사용하는 데 도움이 되는 정보를 제공하는 것이 필요합니다. 또한, 시스템에 대한 사회적 수용도를 높이기 위해 개발자는 다음 사항을 더 해야 합니다. 사용자에게 개발한 시스템의 기술적 특성, 알고리즘, 보안 메커니즘 등에 대한 정보와 설명을 제공해야 합니다. 이해관계자의 의견과 대화를 경청합니다.

출처: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html