전문가들, 인공지능이 어린이에게 미치는 위험에 대해 경고

[광고1]
인공지능이 어린이에게 미치는 위험을 최소화하기 위해, 어린이의 인공지능 사용을 금지할 필요는 없습니다. 하지만 가장 중요한 것은 어린이에게 온라인 환경에서 스스로를 보호할 수 있는 위험에 대한 인식을 제고하도록 교육하는 것입니다.

딘 티 누 호아 여사는 인공지능(AI)을 통합한 애플리케이션이 점점 더 인기를 얻고 있으며, 어린이들에게 상당한 영향을 미치고 있다고 말했습니다. (사진: NVCC)

이는 정보통신부, 정보보안부, 베트남 사이버 비상 대응 센터(VNCERT/CC) 검사부장인 딘 티 누 호아 여사와 The World 및 베트남 신문사가 인공지능의 영향으로부터 어린이를 보호하기 위한 위험과 해결책에 대해 밝힌 의견입니다.

아이들이 AI에 의존할 때 많은 위험

최근에는 인공지능(AI)을 통합한 애플리케이션이 점점 더 인기를 얻고 있습니다. 어린이는 AI 도구에 가장 취약한 대상입니다. 이 문제에 대한 경고가 있나요?

요즘에는 인공지능(AI)을 통합한 애플리케이션이 점점 더 인기를 얻고 있으며, 많은 사람들에게 공유되고 사용되고 있습니다. 대표적인 것으로는 사진 편집 애플리케이션, 채팅 애플리케이션(챗봇) 등이 있습니다. 하지만 많은 사람들은 AI 도구에 의해 장기적인 영향을 받아 피해를 입을 수 있는 주체가 바로 어린이라는 사실을 잊고 있습니다. 모든 연령대의 어린이가 AI 도구에 쉽게 접근할 수 있지만, 이러한 도구를 사용하기 전에는 별다른 노력이 필요하지 않습니다.

오늘날 아이들은 AI 도구를 쉽게 접할 수 있지만, 사용하기 전에 반드시 지켜야 할 요구 사항은 거의 없습니다. 아이들이 직면하는 위험은 무엇이라고 생각하시나요?

통계에 따르면, 12~17세 아동의 인터넷 이용률은 매우 높은데, 도시 지역에서는 93%, 농촌 지역에서는 88%를 차지합니다. 특히, 98%의 어린이가 스마트폰을 통해 인터넷에 접속합니다.

저는 AI가 어린이에게 영향을 미치는 데에는 여러 가지 위험이 있다고 생각합니다. 첫째 , 부적절한 정보에 접근할 위험이 있습니다. ChatGPT와 같은 AI 통합 애플리케이션의 정보를 통해 사용자는 인터넷의 다양한 소스에서 수집된 정보를 제공받습니다. 여기에는 정확한 정보와 부정확한 정보가 모두 포함되어 있습니다. 심지어 이 정보조차 사용자의 연령에 따라 선택, 평가 또는 필터링되지 않습니다. 결과적으로 검색 시 오해의 소지가 있는 정보, 부적절한 콘텐츠 또는 폭력적인 콘텐츠가 표시될 수 있습니다.

둘째 , 어린이의 개인정보 유출 및 사생활 침해의 위험성입니다. 아이들은 사진 편집 앱이나 채팅 앱(챗봇)을 사용할 때 실수로 온라인에서 개인 정보를 공유하고, 쉽게 불법적인 데이터 침해의 희생자가 될 수 있습니다.

화요일 , 위험한 도전에 참여하도록 유혹합니다. 실제로, 10대 소녀들이 건강 정보와 다이어트 계획을 위해 ChatGPT를 찾는 놀라운 사례도 있었습니다. AI는 세부적인 계획과 구체적인 조언을 담은 정보를 빠르게 제공할 수 있습니다. 그러나 이 정보는 실제 데이터를 참조한 것이 아니며 단지 인터넷에서 수집한 무작위적인 정보일 뿐입니다.

동시에, 아주 어린 나이부터 챗봇에 노출되면 아이들은 인공 지능을 진짜 친구로 착각하고 AI의 조언에 따라 행동하게 됩니다. 한편, 이런 팁에는 편향적이거나 부정확하거나 유해하거나 오해의 소지가 있는 내용이 포함될 수 있습니다.

수요일, 어린이의 심리, 생리학, 행동에 미치는 영향. AI 도구의 도움으로 사용자는 단 하나의 질문만으로 어떤 주제에 관한 정보든 찾을 수 있습니다. AI 챗봇 덕분에 수십 개의 서로 다른 웹사이트를 열고 수많은 기사를 읽어 정보를 수집하지 않고도 정보를 탐색하기가 더 쉬워졌습니다.

따라서 기술과 지나치게 많이 상호 작용하면 다른 사람과의 상호 작용이 점점 줄어들어 우울증, 불안 또는 사회적 기술 저하로 이어질 수 있습니다. 게다가, 아이들이 AI에 지나치게 의존하면 학습 능력과 주도적으로 일할 수 있는 능력이 감소합니다.

아이들이 AI에 지나치게 의존하면 학습하고 능동적으로 일할 수 있는 능력이 감소합니다. (출처: 인터넷)

아이들이 온라인에서 예의 바르고 친절하게 행동하도록 돕기

당신은 AI 도구가 아이들에게 미치는 영향을 최소화하기 위한 지속 가능한 해결책이 무엇이라고 생각하시나요?

유니세프의 2022년 보고서에 따르면, 어린이 중 23%가 실수로 민감한 이미지나 영상을 온라인에 광고하는 것을 본 적이 있다고 답했습니다. 실제로 포르노는 어디에나 있기 때문에 포르노 웹사이트를 차단하는 것만으로는 충분하지 않으며 효과도 없습니다. 어린이에게는 온라인 콘텐츠를 걸러내는 강력하고 효과적인 도구가 필요합니다. 이를 통해 어린이가 나쁘고 유해한 정보에 노출되는 것을 방지할 수 있습니다.

AI가 어린이에게 미치는 위험을 최소화하기 위해 어린이의 AI 사용을 금지할 필요는 없습니다. 그보다 더 중요한 것은 어린이에게 온라인 환경에서 위험을 인식하고 자신을 보호할 수 있는 인식을 제고하도록 교육하는 것입니다. 제 생각에, 아이들이 온라인에서 안전하게 지낼 수 있도록 돕는 몇 가지 원칙이 있는데, 그것은 4T 원칙, 즉 규정 준수(Compliance), 지능(Insights), 주의와 친절(Caution and Kindness)입니다.

첫째, 서비스 제공자와 학교 자체가 정한 인터넷 사용 규칙을 준수하세요. 일부 AI 애플리케이션의 커뮤니티 준수 등 법률 준수는 13세 미만 어린이를 대상으로 하지 않습니다.

둘째, 네트워크 환경에서의 개인정보 제공 기술, 소셜 네트워크를 안전하게 이용하는 기술, 안전을 보장하기 위한 비밀번호 관리 기술 등 스마트한 네트워크 환경에 참여할 수 있는 지식과 기술을 갖추세요.

셋째, 온라인 친구를 조심하세요. 접근하려고 하는 사람이 있을 수 있고, 이상한 링크에 접속할 때 조심하고, 매우 매력적인 제안에 접할 때 조심하고, 채팅 상자를 포함하여 온라인에서 정보를 제공할 때 조심하세요. 이는 온라인 사기에 관련된 위험을 최소화하기 위한 것입니다. 마지막으로, 온라인에서는 예의 바르고 친절하게 행동해야 하며, 나쁜 내용이나 다른 사람을 불쾌하게 하는 메시지를 보내거나 답장하지 않아야 합니다.

부모는 자녀를 위한 사이버 공간의 "게이트키퍼" 역할을 어떻게 해야 할까요?

부모는 Cyberpurify kid, safe gate family, BKAV safe kid, mobile guard for kid, safe zone 등과 같이 자녀에게 부적절한 정보를 차단하는 데 도움이 되는 몇 가지 기술적 도구를 적용할 수 있습니다.

또한 부모는 자녀가 컴퓨터와 네트워크 장치를 사용하는 데 관한 규칙을 정해야 합니다. 각 연령대마다 규칙이 다릅니다. 소셜 미디어 플랫폼의 권장 커뮤니티 가이드라인에 따라 아이들이 소셜 미디어를 사용할 수 있는 나이가 되었을 때에만 소셜 미디어를 사용하도록 허용하세요.

특히 부모는 항상 자녀가 사이버공간에서 접속하는 온라인 콘텐츠에 관심을 갖고 이를 면밀히 모니터링합니다. 가족을 대상으로 맬웨어 방지 및 바이러스 백신 소프트웨어, 유해 정보를 차단하는 솔루션, 어린이가 유해한 정보에 접근할 때 이를 모니터링하고 차단하는 제품 등 정보 보안 솔루션을 제공합니다.

감사합니다!

베트남과 다른 ASEAN 국가들은 2019년에 ASEAN에서 모든 형태의 온라인 착취와 학대로부터 아동을 보호한다는 선언문을 채택하기로 합의했고, 2021년에는 온라인 괴롭힘을 포함한 ASEAN 내 괴롭힘 근절에 관한 선언문을 채택했습니다.

[광고2]
원천