전문가들, 인공지능이 어린이에게 미치는 위험에 대해 경고

[광고_1]
인공지능이 어린이에게 미치는 위험을 최소화하기 위해, 어린이의 인공지능 사용을 금지할 필요는 없습니다. 하지만 가장 중요한 것은, 어린이에게 온라인 환경에서 자신을 보호하기 위한 위험에 대한 인식을 제고하도록 교육하는 것입니다.

딘티누호아 씨는 인공지능(AI)을 통합한 애플리케이션이 점점 더 인기를 얻고 있으며 어린이들에게 상당한 영향을 미치고 있다고 말했습니다. (사진: NVCC)

이는 정보통신부 정보보안국 베트남 사이버 비상 대응 센터(VNCERT/CC) 검사부장인 딘티누호아 여사와 The World 및 베트남 신문이 인공지능의 영향으로부터 어린이를 보호하기 위한 위험과 해결책에 대해 내린 의견입니다.

아이들이 AI에 의존할 때 많은 위험

최근에는 인공지능(AI)을 통합한 애플리케이션이 점점 더 인기를 얻고 있습니다. 어린이는 AI 도구에 가장 취약한 계층에 속합니다. 이 문제에 대한 경고가 있나요?

요즘에는 인공지능(AI)을 통합한 애플리케이션이 점점 더 인기를 얻고 있으며, 많은 사람들이 이를 공유하고 사용하고 있습니다. 대표적인 것으로는 사진 편집 애플리케이션, 채팅 애플리케이션(챗봇) 등이 있습니다. 하지만 많은 사람들은 AI 도구에 의해 장기적인 영향을 받을 수 있는 주체가 바로 어린이라는 사실을 잊고 있습니다. 모든 연령대의 어린이는 AI 도구에 쉽게 접근할 수 있지만, 이러한 도구를 사용하기 전에는 별다른 노력이 필요하지 않습니다.

오늘날 아이들은 AI 도구를 쉽게 이용할 수 있지만, 사용하기 전에 꼭 필요한 사항은 거의 없습니다. 아이들이 직면한 위험은 무엇이라고 생각하시나요?

통계에 따르면, 12~17세 아동의 인터넷 이용률은 매우 높은데, 도시 지역에서는 93%, 농촌 지역에서는 88%를 차지합니다. 특히, 98%의 어린이가 스마트폰을 통해 인터넷에 접속합니다.

저는 AI가 어린이에게 영향을 미치는 데에는 여러 가지 위험이 있다고 생각합니다. 첫째 , 부적절한 정보에 접근할 위험이 있습니다. ChatGPT와 같은 AI 통합 애플리케이션의 정보를 통해 사용자는 인터넷의 다양한 소스에서 수집된 정보를 제공받습니다. 여기에는 정확한 정보와 부정확한 정보가 모두 포함되어 있습니다. 이러한 정보조차도 사용자의 연령에 따라 선택, 평가 또는 필터링되지 않습니다. 결과적으로 검색 결과에 오해의 소지가 있는 정보, 부적절한 콘텐츠 또는 폭력적인 콘텐츠가 표시될 수 있습니다.

둘째 , 어린이의 개인정보 유출 및 사생활 침해의 위험성입니다. 아이들은 사진 편집 앱이나 채팅 앱(챗봇)을 사용할 때 실수로 온라인에서 개인 정보를 공유하고, 불법적인 데이터 침해의 희생자가 되기 쉽습니다.

화요일 , 위험한 도전에 참여하도록 유혹합니다. 실제로, 10대 소녀들이 건강 정보와 다이어트 계획을 위해 ChatGPT를 찾는 놀라운 사례가 있었습니다. AI는 세부적인 계획과 구체적인 조언을 통해 정보를 빠르게 제공할 수 있습니다. 하지만 이 정보는 실제 데이터를 참조한 것이 아니며, 단지 인터넷에서 수집한 무작위적인 정보일 뿐입니다.

동시에, 아주 어린 나이부터 챗봇에 노출된 아이들은 인공 지능을 실제 친구로 착각하고 AI의 조언에 따라 행동하게 됩니다. 한편, 이러한 팁에는 편향적이거나 부정확하거나 유해하거나 오해의 소지가 있는 콘텐츠가 포함될 수 있습니다.

수요일, 어린이의 심리, 생리학, 행동에 미치는 영향. AI 도구의 도움으로 사용자는 단 하나의 질문만으로 어떤 주제에 대한 정보든 찾을 수 있습니다. AI 챗봇 덕분에 수십 개의 웹사이트를 열고 수많은 기사를 읽어 정보를 수집하지 않고도 정보를 탐색하기가 더 쉬워졌습니다.

따라서 기술과 너무 많이 상호 작용하면 다른 사람과의 상호 작용이 점점 줄어들어 우울증, 불안 또는 사회적 기술 상실로 이어질 수 있습니다. 게다가, 아이들이 AI에 지나치게 의존하면 학습하고 능동적으로 일할 수 있는 능력이 감소합니다.

아이들이 AI에 지나치게 의존하면 학습하고 능동적으로 일할 수 있는 능력이 저하됩니다. (출처: 인터넷)

아이들이 온라인에서 예의 바르고 친절하게 행동하도록 도와주세요

당신은 AI 도구가 어린이에게 미치는 영향을 최소화하기 위한 지속 가능한 해결책이 무엇이라고 생각하십니까?

유니세프의 2022년 보고서에 따르면, 어린이 중 23%가 실수로 온라인에 광고된 민감한 이미지나 영상을 본 적이 있다고 답했습니다. 실제로 포르노는 어디에나 있기 때문에 포르노 웹사이트를 차단하는 것만으로는 충분하지 않고 효과도 없습니다. 어린이에게는 온라인 콘텐츠를 걸러내고 유해하고 해로운 정보에 노출되는 것을 피할 수 있는 강력하고 효과적인 도구가 필요합니다.

AI가 어린이에게 미치는 위험을 최소화하기 위해 어린이의 AI 사용을 금지할 필요는 없습니다. 하지만 가장 중요한 것은 어린이에게 온라인 환경에서 위험을 인식하고 자신을 보호할 수 있는 인식을 제고하도록 교육하는 것입니다. 제 생각에, 아이들이 온라인에서 안전하게 지낼 수 있도록 돕는 몇 가지 원칙이 있는데, 그것은 4T 원칙입니다. 즉, 규정 준수(Compliance), 지능(Intelligence), 주의 및 친절(Caution and Kindness)입니다.

첫째, 서비스 제공자와 학교가 정한 인터넷 사용 규칙을 준수하세요. 일부 AI 애플리케이션의 커뮤니티 준수 등 법률 준수는 13세 미만 어린이를 대상으로 하지 않습니다.

둘째, 네트워크 환경에서 개인정보를 제공하는 기술, 소셜 네트워크를 안전하게 이용하는 기술, 안전을 확보하기 위한 비밀번호 관리 등 스마트한 네트워크 환경에 참여하기 위한 지식과 기술을 갖추세요.

셋째, 온라인 친구를 조심하세요. 접근하려고 하는 사람이 있을 수 있고, 이상한 링크에 접속할 때 조심하고, 매우 매력적인 제안에 직면했을 때 조심하고, 채팅 상자를 포함하여 온라인에서 정보를 제공할 때 조심하세요... 이는 온라인 사기와 관련된 위험을 최소화하기 위한 것입니다. 마지막으로, 온라인에서는 예의 바르고 친절하게 행동해야 하며, 나쁜 내용이나 다른 사람에게 불쾌감을 주는 메시지를 보내거나 답장하지 마십시오.

부모는 자녀의 사이버 공간에서 "문지기" 역할을 어떻게 해야 할까요?

부모는 Cyberpurify kid, safe gate family, BKAV safe kid, mobile guard for kids, safe zone 등과 같이 자녀에게 부적절한 정보를 차단하는 데 도움이 되는 몇 가지 기술 도구를 적용할 수 있습니다.

또한 부모는 자녀가 컴퓨터와 네트워크 장치를 사용하는 데 대한 규칙을 정해야 합니다. 각 연령대마다 규칙이 다릅니다. 소셜 미디어 플랫폼의 권장 커뮤니티 가이드라인에 따라 아이들이 소셜 미디어를 사용할 수 있는 나이가 되었을 때에만 소셜 미디어를 사용하도록 하세요.

특히 부모는 자녀가 사이버 공간에서 접속하는 온라인 콘텐츠에 항상 관심을 갖고 이를 면밀히 감시합니다. 가족을 대상으로 맬웨어 방지 및 바이러스 백신 소프트웨어, 유해 정보를 차단하는 솔루션, 어린이가 유해한 정보에 접근할 때 이를 모니터링하고 차단하는 제품 등 정보 보안 솔루션을 제공합니다.

감사합니다!

베트남과 다른 ASEAN 국가들은 2019년에 ASEAN에서 모든 형태의 온라인 착취와 학대로부터 아동을 보호하는 선언문을 채택하기로 합의했고, 2021년에는 온라인 괴롭힘을 포함한 ASEAN 내 괴롭힘 근절 선언문을 채택했습니다.

[광고_2]
원천