AI 기술은 온라인에서 어린이에게 많은 위험을 초래합니다

DNVN - 베트남 아동기금의 전문가인 도즈엉히엔 씨는 AI가 많은 이점을 가져다주지만, 동시에 인터넷상의 어린이들에게 많은 잠재적 위험을 초래할 수 있다고 말했습니다.

11월 21일 하노이에서 베트남 정보 보안 협회가 정보통신부 정보보안국과 협력하여 주최한 "온라인 환경에서 아동을 보호하기 위한 협력 증진" 워크숍에서 전문가들은 디지털 기술이 급속히 발전하여 개인의 일상생활에서 없어서는 안 될 업무 및 오락 도구가 되면서 정보 안전, 보안 및 개인정보 보호에 대한 위험도 증가하고 있다고 말했습니다.

어린이의 경우, 이를 식별하고 예방할 수 있는 충분한 기술이 없을 때 이러한 위험과 위기는 더욱 분명해집니다. 이러한 문제는 베트남뿐만 아니라 세계 여러 나라가 겪고 있는 문제입니다. 따라서 사이버 공간에서 어린이를 보호하고 협력과 연결성을 강화하여 어린이를 보호하고 힘을 실어주는 것도 전 세계적으로 제기되는 문제입니다.

Dang Vu Son - VNISA 부사장.

VNISA 부회장이자 정부암호위원회 전 위원장인 당 부 손(Dang Vu Son) 씨는 다음과 같이 말했습니다. 이러한 맥락에서 "2021~2025년 기간 동안 온라인 환경에서 어린이들이 건강하고 창의적으로 상호 작용하도록 보호하고 지원하는" 프로그램은 국가 기관, 사회 단체 및 기업의 적극적인 참여를 촉진하는 원동력을 제공했습니다. 그러나 실제로는 관련 당사자 간의 연계 및 협력에 여전히 한계가 있으며, 이는 사이버 공간에서의 아동 보호 활동의 효과성에 큰 영향을 미칩니다.

손 씨에 따르면, VNISA는 국가 관리 기관, 국제 기구 및 기업과 협력하여 온라인 환경에서 어린이를 보호하기 위한 이니셔티브를 시행하는 데 전념해 왔습니다. 최근 협회는 다양한 활동을 진행하고 있습니다.

당 부 손(Dang Vu Son) 씨는 "우리는 연결과 협력이 사이버 공간에서 아동을 보호하는 데 있어 과제를 해결하고 효율성을 높이는 핵심이라고 믿습니다. VNISA는 젊은 세대를 위한 진정으로 안전하고 지속 가능한 사이버 환경을 구축하기 위해 국내외 파트너들과 긴밀히 협력하고 지속적인 노력을 기울이고 있습니다."라고 덧붙였습니다.

베트남 아동기금의 전문가인 도즈엉히엔 씨는 인공지능(AI)이 온라인상의 어린이에게 미치는 영향에 대해 공유하면서, AI가 빠르게 발전하고 있으며 인터넷상의 어린이들에게 이점을 가져다주지만 잠재적인 위험도 많이 초래한다고 말했습니다.

"AI는 아이들의 창의력과 주도성을 장려하고 증진합니다. 생성적 AI는 아이들이 작곡, 미술, 음악을 통해 자신을 표현할 수 있는 창의적인 도구를 제공할 수 있습니다. AI는 아이들이 새로운 분야를 탐구하고 배우며 지식과 기술을 확장하도록 도울 수 있습니다."라고 히엔 씨는 언급하며, 단점에 대해서도 경고했습니다. "그것은 부적절한 콘텐츠를 제작하는 문제입니다. 플랫폼 제공업체의 AI 도구/알고리즘은 연령에 맞지 않고 유해한 콘텐츠를 제공할 수 있습니다. 또한, 생성적 AI는 아이들의 인지, 행동, 그리고 발달에 영향을 미치는 잘못된 정보나 가짜 뉴스를 만드는 데 사용될 수 있습니다."

하지만 AI는 어린이를 보호하고 온라인 콘텐츠를 모니터링하는 도구 역할도 할 수 있습니다. AI는 소셜 미디어와 인터넷 플랫폼에서 유해하거나 부적절한 콘텐츠를 신속하게 감지하고 제거하고 경고할 수 있는 능력을 갖추고 있습니다. 아동 성적 학대 자료(CSAM)를 감지하고 보고합니다. CSAM 문서 및 콘텐츠를 감지하고 시스템에서 직접 보고하거나 차단할 수 있는 애플리케이션과 소프트웨어입니다. AI 도구는 폭력적인 행동을 감지하는 데 도움이 될 수 있습니다.

VNISA 부회장, VCSC 클럽 회장인 응오 투안 아인 씨(오른쪽에서 세 번째).

최근 온라인 아동 보호 활동에 대해 VNISA 부회장 겸 VCSC 클럽 회장인 응오 투안 안(Ngo Tuan Anh) 씨는 다음과 같이 말했습니다. "2024년 6월에 발표된 VNISA 기본 표준 TCCS:03은 온라인 아동 보호를 위한 제품 및 서비스 생태계를 촉진하는 데 중요한 이정표입니다. 또한 이 표준은 온라인 아동 보호 제품 및 서비스의 품질을 평가하여 사용자와 부모가 제품 및 서비스를 선택할 때 더욱 안심할 수 있도록 지원합니다. 이는 기업, 단체, 그리고 많은 사용자가 사이버 공간의 위험으로부터 자녀를 보호하기 위해 힘을 합치도록 하는 토대가 될 것입니다."

베트남 월드비전 인터내셔널의 아동 보호 및 아동 참여 프로그램 관리자인 판티킴리엔 여사는 디지털 환경이 아동 발달에 수많은 기회와 위험을 가져다준다고 말했습니다. 베트남에서는 10명 중 9명의 어린이가 인터넷을 사용합니다. 베트남의 월드비전 인터내셔널은 어린이를 위한 안전하고 효과적인 온라인 환경을 구축하고자 포괄적인 디지털 기술 교육 프로그램에 중점을 두고 있습니다. 이를 통해 어린이는 자신을 보호하는 방법을 배우고, 인터넷을 창의적으로 사용하며, 안전하고 효과적인 인터넷 환경을 구축하는 데 적극적으로 참여할 수 있습니다.

응우옌 득

출처: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281