AI 윤리: 과제와 방향

전문가들은 AI를 기술 엔지니어가 만든 "기계"에 비유하는데, 이 기계의 행동은 인간을 모방하고 점차 실제 지능에 가까워지고 있다.

AI가 윤리적으로 설계되고 제어되지 않으면 사회는 많은 결과에 직면할 수 있습니다.

AI가 편향된 데이터를 기반으로 개발될 경우 성별 및 민족적 차별을 초래할 수 있습니다. AI는 많은 일자리를 대체할 수 있으며, 이는 노동 시장에 큰 문제를 일으킬 수 있습니다. 장애인, 기술을 거의 사용하지 않는 사람, 소수 민족 등은 AI 통합 서비스에 접근하는 과정에서 소외되지 않도록 지원이 필요합니다.

AI 개발은 환경과 자원에 대한 특정한 과제를 제기할 것입니다. 데이터 센터, 클라우드 컴퓨팅 인프라, 슈퍼컴퓨터를 설치하고 유지 관리하려면 엄청난 양의 전기와 물이 필요하며, 장비를 보관할 공간도 상당히 필요합니다.

AI가 의료와 같은 중요한 분야에 진입하면 진단과 치료에 오류가 발생할 경우 책임은 어떻게 져야 할까요? 특히 환자 정보의 보안, 전반적인 개인 데이터 보호, 데이터 정확성 보장은 모두 특별히 우려되는 문제입니다.

위에서 언급한 위험은 베트남에만 국한된 것이 아니라 전 세계에 해당합니다. 따라서 AI의 개발과 적용은 신중하게 계산되어야 하며, 적절한 제어 및 탐색 메커니즘이 수반되어야 합니다.

AI 윤리는 AI 개발에 참여하는 개인과 조직이 사용자와 사회를 위해 투명하고 공정하며 안전한 방식으로 이 "기계"를 설계, 운영 및 활용할 책임을 지도록 요구합니다. 동시에 AI 윤리는 AI가 삶에 미치는 영향의 결과를 해결하는 데 있어 글로벌 및 국가 사회의 역할을 강조합니다.

AI 개발은 환경과 자원에 특정한 과제를 안겨줍니다. (삽화)

우리 당과 국가는 디지털 전환의 핵심 목적을 사람을 위한 봉사, 즉 사람을 중심으로 하는 정신으로 규정합니다. 따라서 우리는 홍보와 개발뿐 아니라 디지털 전환 과정에서 사람들에게 미치는 원치 않는 영향을 최소화하는 데 집중해 왔습니다.

국회는 고용법 개정 과정에서 4차 산업혁명의 영향을 받는 계층을 지원하는 정책 연구를 요청했습니다.

우리는 2024년 데이터법을 발표했고, 개인정보보호법을 개발하고, 사이버보안법을 개정하여 AI로 인한 위험을 통제하는 데 기여하고 있습니다.

정치 시스템 내의 기관과 조직은 사람들이 스마트 행정 서비스에 더 편리하게 접근할 수 있도록 돕기 위한 많은 솔루션을 연구하고 있습니다. 하노이시 공공행정서비스센터의 운영모델은 다음과 같은 예입니다.

그러나 가장 큰 과제는 혁신을 촉진하는 것과 AI 윤리를 모니터링하는 것의 균형을 어떻게 맞출 것인가입니다. 통제가 너무 엄격하면 혁신을 저해할 수 있지만, 통제가 너무 느슨하면 이미 지적된 것과 같은 결과를 초래할 수 있습니다.

또한, 과학기술발전을 위한 여러 전략과 사업을 동시에 추진할 경우, 자원이 한정된 상황에서 적절한 계산과 균형이 요구됩니다.

혁신을 촉진하고 AI 윤리를 모니터링하는 균형 잡힌 행동입니다. (삽화)

이러한 맥락에서 전문가 협회, 기업, 연구소, 사회 단체 등이 정부와 협력하여 책임 있는 AI 개발을 선도하는 역할은 매우 중요합니다.

최근 2025년 3월 22일, 강력한 데이터 생태계를 구축하고 디지털 경제 발전을 촉진하며 국가 경제에서 데이터 가치를 높이는 것을 목표로 국가데이터협회가 출범했습니다.

이전에는 베트남 소프트웨어 및 정보기술 서비스 협회(VINASA)가 인공지능 윤리위원회를 설립했습니다. 위원회는 AI 개발 기업을 위한 AI 윤리 행동 강령을 개발하기 위해 당국에 조언하기 위해 노력하고 있습니다. 동시에 위원회는 베트남에서 AI를 개발하는 외국 기업이 특정 기준을 준수하도록 요구하는 표준화된 데이터 세트를 구축할 것을 제안했습니다.

VINASA의 모델은 복제되고 장려되어야 합니다. 왜냐하면 AI 윤리는 관리 기관만의 문제가 아니라 사회 전체의 협력이 필요하기 때문입니다.

장기적으로 베트남은 인공지능 개발에 관한 국가 전략 전반에서 책임 있는 AI 개발 전략을 수립하고 공정성, 포용성, 투명성, 안전성, 책임성 등 모든 가치를 보장하는 것을 고려해야 합니다.

더 중요한 점은 법률 준수가 필수 요건이라는 점입니다. 즉, 각 개인과 조직이 AI를 개발하고 적용할 때 의식과 행동 모두에 대한 깊은 인식을 가져야 한다는 것입니다.

디지털 환경에서 이해관계자의 합법적 권리를 보호하고, 법적 책임을 명확히 정의하고, 위반 사항을 처리할 수 있는 메커니즘을 확립하기 위해서는 법률 시스템을 지속적으로 개선해야 합니다.

베트남이 AI 거버넌스 모델을 구축하는 데 있어 국제적인 경험 또한 중요한 참고 자료가 될 것입니다. 완벽한 법률 시스템과 효과적인 모니터링 메커니즘은 혁신을 방해하지 않으면서 위험을 통제하고 기술 남용을 방지하는 데 도움이 될 것입니다. 그때가 되면 AI는 진정으로 인류에게 봉사하고 사회적 진보를 촉진하는 도구가 될 것입니다.

출처: https://nhandan.vn/dao-duc-ai-thach-thuc-va-huong-di-post873031.html