(NB&CL) 전쟁, 무장 폭력 또는 심각한 세계적 지정학적 분열 외에도 2024년에도 세계는 잘못된 정보, 가짜 뉴스 및 사기에 맞서는 또 다른 주요 전투에 직면해 있습니다. 이 문제는 끝내기 힘든 전설적인 이야기가 될 것이며, 전 세계가 힘을 합쳐 과감한 조치를 취하지 않는다면 점점 더 심각해질 것으로 예측됩니다.
정보 혼란 - 점점 커지는 위험 정보 혼란, 특히 잘못된 정보와 사이버 사기는 "글로벌 팬데믹"으로 여겨지고 있으며, 이는 진실을 보호한다는 사명을 지닌 전통 언론 기관이 개척자 역할을 해야 하는 세계의 공통된 전쟁입니다. 그러나 이 싸움은 각 국가와 글로벌 기구가 과감하고 근본적인 조치를 취하는 경우에만 성공할 수 있습니다. |
가짜 뉴스, 잘못된 정보, 특히 사기 행위는 세계가 의사소통의 새로운 시대로 접어들면서 피할 수 없는 결과이자 부정적인 측면이 되었습니다. 간단히 말해, 이 무대는 더 이상 검열받는 언론과 언론사만을 위한 곳이 아닙니다. 우리가 알고 있듯이 인터넷, 하이테크 기기, 특히 소셜 네트워크의 폭발적 성장으로 인해 누구나 수백만 명의 사람들이 따르는 "기자", "리포터" 또는 심지어 "대변인"이 될 수 있게 되었습니다.
소셜 네트워크, 규칙 없는 세상
모든 것에는 양면이 있습니다. 소셜 네트워크의 폭발적인 성장은 정보와 지식이 놀라울 정도로 빠르고 광범위하게 퍼지는 데 도움이 되는 등 많은 이점을 가져왔습니다. 요즘에는 사고에 대한 정보가 몇 분 안에 사람들에게 전달될 수 있으며, 심지어 지구 반대편에 있는 사람들에게도 전달될 수 있습니다. 홍수, 폭풍, 산불 등의 자연 재해에 대한 정보도 사람들이 소셜 네트워크 플랫폼을 통해 신속하게 업데이트하거나 공유하여 효과적으로 확산시키거나 경고하는 데 도움이 됩니다.
그러나 이러한 긍정적인 측면과 함께 소셜 네트워크와 커뮤니티 공유 플랫폼은 걱정스러운 결과도 초래하고 있습니다. 더욱 두려운 것은 인간뿐만 아니라 기계, 특히 인공지능(AI)의 급속한 확산으로 인해 인터넷 세계 전체가, 특히 기술 플랫폼이 너무 많은 위험을 안고 있다는 것입니다.
소셜 네트워크의 '정보 범유행' 2024년 6월 말 Redline이 발표한 통계에 따르면, 전 세계적으로 소셜 네트워크 사용자는 49억 명이 있습니다. 미국인을 대상으로 한 이 조사에 따르면, 대부분의 소셜 미디어 사용자는 Facebook, TikTok, YouTube 등 이러한 플랫폼에 퍼져 있는 정보의 정확성을 신뢰하지 않는 것으로 나타났습니다. 따라서 이 조직은 소셜 네트워크상의 현재 잘못된 정보의 상태를 설명하기 위해 "인포데믹"이라는 용어를 사용했습니다. |
소셜 미디어의 세계는 거의 규칙이 없는 원시림과 같습니다. 그곳에 살면서 사람들은 풍요와 자유, 편안함을 누리지만, 그와 함께 치명적인 함정도 있습니다. 지금까지 거의 모든 국가가 그 '일차림'의 관리 및 조직화에 어려움을 겪고 있으며, 이 '세계'가 인류 전체를 덮고 있는 동안, 침해 사례를 처리하기 위한 첫 걸음만 내디뎠을 뿐입니다.
올해 11월 말, 호주는 어린이가 매혹적이면서도 위험하고 거의 무법 상태인 "원시적" 세계에 들어가는 것을 금지하는 법률을 세계 최초로 공식적으로 도입한 나라가 되었습니다. 구체적으로, 호주에서는 16세 미만 어린이의 소셜 네트워크 사용을 금지하고 있으며, 소셜 네트워크가 이를 위반할 경우 최대 3,200만 달러에 달하는 엄청난 벌금을 부과합니다.
그러한 맥락에서 가짜 뉴스, 허위 정보, 특히 소셜 네트워크 사기(소프트웨어 애플리케이션, 사기성 웹사이트 등 다른 첨단 기술을 통한 사기도 포함)가 폭발적으로 늘어나는 것은 계속해서 세계적인 문제가 되고 있습니다. 베트남에서는 매일 사이버범죄의 모든 형태로 사기를 당한 피해자들에 대한 가슴 아픈 이야기를 듣습니다. 세계적으로 이는 어느 나라의 문제이기도 합니다.
올해 3월, 인터폴은 동남아시아의 온라인 사기가 전 세계적으로 확대되어 연간 최대 3조 달러(프랑스의 GDP와 동일)에 달한다고 보고했습니다. 사기꾼들이 딥페이크 기술을 사용해 고위 관리자를 사칭해 송금을 지시한 뒤 영국의 엔지니어링 그룹조차 2,500만 달러의 손실을 입었습니다. 물론, 이는 온라인에서 발생하는 수백만 건의 사기 중 몇 가지 예일 뿐입니다.
소셜 미디어에서 잘못된 정보를 퍼뜨리는 걸 다루는 건 불가능한 일인가?
각국과 글로벌 기구는 특히 TikTok, Facebook, X와 같은 대규모 소셜 플랫폼에서 사이버 공간의 불법 활동을 예방하거나 처벌하기 위해 끊임없이 노력하고 있지만 처리된 사례의 수는 여전히 매우 적습니다.
더욱 주목할 만한 점은 지금까지 허위 정보를 유포하거나 법을 위반하는 등의 잘못에 대해 소셜 네트워크에 책임을 묻기 위해 나서는 국가나 조직이 거의 없다는 것입니다. 올해 5월, Meta는 Facebook과 Instagram 플랫폼에서 "잠재적으로 AI가 생성한" 콘텐츠가 잘못 표현되거나 사기를 치는 데 사용되고 있다는 사실을 직접 인정했습니다. 이 발언은 소셜 네트워크 자체가 유해한 정보를 퍼뜨릴 때 "무고하다"고 주장하고 있다는 것을 보여줍니다. 그렇지 않다면 그렇게 "자백"하지 않았을 것입니다.
실제로 Meta, TikTok, Google, Microsoft 또는 X와 같은 Big Tech 회사는 위반으로 전 세계적으로 수십억 달러의 벌금을 내야 했지만 이는 사용자 개인 정보 보호 규정이나 반독점법 위반과만 관련이 있었고, "자사"에서 위반이 발생하도록 허용한 것에 대한 처벌은 거의 없었습니다.
이 분야와 관련된 가장 주목할 만한 사건은 텔레그램 사장 파벨 두로프가 프랑스에서 체포된 사건인데, 그는 이 메시징 플랫폼을 통해 확산되는 범죄 활동을 조장한 혐의로 기소되었습니다. 그러나 정치적 의미가 담겨있을 것으로 추정되는 이 체포는 비밀리에 진행됐다. 이는 소셜 네트워크나 일반 기업을 상대로 한 공개적인 법적 소송과 같은 것이 아닙니다. 실제로 유엔이 2024년 10월에 이 플랫폼이 범죄 조직이 불법 거래를 위해 사용하는 도구라고 보고서를 발표한 후에도 텔레그램 플랫폼에서 발생한 범죄 활동과 관련하여 단 한 번의 처벌도 받은 적이 없습니다.
세계는 여전히 소셜 미디어 플랫폼에서의 가짜 뉴스, 잘못된 정보, 사기 문제를 해결하기 위해 노력하고 있습니다. 일러스트: IJNET
따라서 이처럼 명백한 불법행위가 있더라도 소셜미디어 플랫폼이나 커뮤니티 공유를 통한 대처는 불가능하며, 유해한 콘텐츠와 가짜 뉴스, 잘못된 정보를 통제하는 것은 극히 어려운 일임이 명백하다.
그 결과, 플랫폼은 두려워하지 않을 뿐만 아니라, 점점 더 정교해지는 알고리즘을 통해 시청자를 유치하기 위해 논란이 많고 선정적이며 터무니없거나 유해한 정보를 장려하면서 "스스로 행동"하는 징후를 보이고 있습니다. 주목할 점은 거대 기술 기업 역시 이 문제에 대해 자신들을 처벌하려는 어떤 움직임에도 압력을 가하거나 이의를 제기할 준비가 되어 있다는 것입니다. 소셜 네트워크 X의 소유주이자 억만장자 엘론 머스크는 2024년 9월 온라인에서 잘못된 정보를 막지 못할 경우 소셜 미디어 기업에 벌금을 부과하는 것을 제안하는 새로운 호주 법안에 반대 의사를 표명했습니다.
여전히 호주 법안에 해당하지만, 인터넷 플랫폼은 허위 정보를 유포한 경우 전 세계 매출의 최대 5%까지 벌금을 물어야 할 수 있습니다. Google과 Meta 등 다른 주요 기술 플랫폼도 우려를 표명하고 호주의 새로운 법안에 이의를 제기했습니다. 이 법안은 허위 정보, 가짜 뉴스, 사기 행위를 퍼뜨리는 소셜 네트워크를 처벌한다는 내용을 언급한 세계적으로 희귀한 법안입니다.
우리가 전통적인 미디어와 저널리즘의 세계를 살펴보면, 그 역설은 받아들이기 어렵습니다. 신문이나 텔레비전 채널이 아무리 사소한 직업적 실수를 저지르고, 더 나아가 거짓이나 불법적인 정보를 제공하면, 기관 전체가 엄중하게 처벌받을 수 있고, 최소한 독자들도 정보를 제공한 기자나 편집자뿐만 아니라 그들에게서 등을 돌릴 것이라는 사실은 누구나 알고 있는 사실이다.
"세계적 팬데믹"이 통제 불능으로 확산되고 있다
잘못된 정보, 가짜 뉴스, 유해한 뉴스 및 사기의 문제는 전쟁이나 전염병보다 더 심각하다고 할 수 있습니다. 이는 전 세계적으로 전체 세대, 특히 젊은 세대에 영향을 미칠 수 있기 때문입니다. 소셜 미디어, 특히 Facebook, TikTok, Google의 중독성 있는 짧은 동영상 기능이 어린이의 신체적, 정신적 건강에 해롭다는 것을 보여주는 연구가 너무나 많이 있었습니다.
유니세프는 최근 연구에서 소셜 네트워크가 사용자의 관심을 가능한 한 오랫동안 사로잡도록 설계되어 승인에 대한 욕구나 거절에 대한 두려움과 같은 우리의 편견과 심리적 취약성을 이용한다고 지적했습니다. 과도한 소셜 미디어 사용은 질투, 열등감, 낮은 삶의 만족도와 관련이 있습니다. 연구에 따르면 이러한 습관은 우울증, 불안증, 수면 부족 등의 증상으로 이어질 수 있는데, 이 중 가장 전형적인 것은 정신 질환입니다.
가수 테일러 스위프트는 AI 딥페이크 문제의 희생자가 된 유명인 중 한 명이다. 사진: 허버트 왕
베트남, 소셜 네트워크가 사용자 인증을 받도록 강제하는 규정 발효 베트남 정부가 최근 발표한 인터넷 서비스와 온라인 정보의 관리, 제공 및 사용에 관한 법령 147/2024/ND-CP가 2024년 12월 25일부터 발효됩니다. 이에 따라 이 규정은 소셜 네트워크가 전화번호나 개인 식별 번호를 통해 사용자를 인증하도록 요구하고, 인증된 계정만이 소셜 네트워크에서 정보를 제공하고(기사 작성, 댓글 달기, 라이브 스트리밍) 정보를 공유할 수 있도록 허용합니다. 이 법령은 가짜 및 오해의 소지가 있는 정보의 확산과 특히 소셜 네트워크에서의 사기 행위를 크게 제한할 것으로 기대됩니다. |
잘못된 정보, 가짜 뉴스, 딥페이크 이미지가 현실 세계에 심각한 영향을 끼쳐 잠재적으로 전 세계적 위협이 될 수 있다는 것을 보여주는 사례가 많이 있습니다. 올해 8월, 영국에서 어린 소녀를 칼로 찔러 죽인 사건의 용의자가 급진적인 무슬림 이민자(실제로는 영국인)라는 거짓 주장이 소셜미디어에 퍼지면서 폭동이 일어났습니다. 이 폭동으로 인해 경찰에 의해 수천 명이 체포되었습니다.
2024년 7월 도널드 트럼프에 대한 암살 시도가 실패했을 당시, 소셜 미디어 세계는 가짜 뉴스와 음모론으로 넘쳐났습니다. 예를 들어, 이탈리아 기자가 용의자로 간주되었다는 사실(실제로는 20세 미국인 남성)이 그 예입니다. 소셜 미디어에는 용의자가 중국인이거나 사건이 "각본화된 시나리오"라는 허위 정보가 유포되기도 했습니다. 잘못된 정보가 퍼지면서 러시아-우크라이나, 이스라엘-팔레스타인 전쟁이나 반이슬람, 반유대주의 문제 등 세계의 모든 갈등과 분쟁 지역에 대한 증오도 커지고 있습니다.
게다가 AI가 폭발적으로 증가하면서, 잘못된 정보에 맞선 싸움이 걷잡을 수 없이 심화되고 있습니다. 딥페이크 도구와 저렴한 AI 모델이 별다른 통제 없이 급증하고 있습니다.
DeepMedia 통계에 따르면, 딥페이크 영상과 음성의 양은 매년 급증하고 있습니다. 2023년에는 딥페이크 영상이 2022년 대비 3배 이상, 딥페이크 음성이 8배 이상 증가했습니다. 이 중 약 50만 개의 딥페이크 영상과 음성이 2024년에 전 세계적으로 소셜 네트워크에서 공유될 것으로 예상됩니다.
2024년 초, AI가 생성한 가수 테일러 스위프트의 포르노 이미지가 소셜 미디어에 퍼져 전 세계에 큰 충격을 안겼습니다. 이에 더해 미국 대통령 조 바이든을 비롯한 영국, 인도, 나이지리아, 수단, 에티오피아, 슬로바키아의 지도자들을 비롯한 전 세계 정치인들도 딥페이크 사칭 문제의 희생자가 되었습니다.
따라서 사이버공간에서의 가짜뉴스, 허위정보, 특히 사기행위 문제는 점점 더 심각해지고 있다. 다가올 AI 시대에 이 "글로벌 팬데믹"은 전 세계, 특히 각국의 정책 입안자들이 이를 예방하기 위해 공동으로 노력하지 않는다면 통제 불능 상태로 치닫을 수 있습니다.
황하이
[광고2]
출처: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html
댓글 (0)