(NB&CL) 전쟁, 무장 폭력 또는 심각한 세계적 지정학적 분열 외에도 2024년 세계는 잘못된 정보, 가짜 뉴스 및 기만에 맞서는 또 다른 주요 전투에 직면해 있습니다. 이 문제는 끝내기 힘든 전설적인 이야기가 될 것이며, 전 세계가 힘을 합쳐 과감한 조치를 취하지 않는다면 점점 더 심각해질 것으로 예측됩니다.
정보 혼란 - 점점 커지는 위험 정보 혼란, 특히 잘못된 정보와 사이버 사기는 "글로벌 팬데믹"으로 여겨지고 있으며, 이는 전통적인 뉴스 기관이 어려움을 겪고 있는 세계의 공통된 싸움입니다. 진실을 보호한다는 사명을 가진 는 선구자 역할을 해야 합니다. 그러나 이 싸움은 각 국가와 글로벌 기구가 과감하고 근본적인 조치를 취하는 경우에만 성공할 수 있습니다. |
가짜 뉴스, 잘못된 정보, 특히 사기 행위는 세계가 의사소통의 새로운 시대로 접어들면서 피할 수 없는 결과이자 부정적인 측면이 되었습니다. 간단히 말해, 이 무대는 더 이상 검열받는 언론과 언론사만을 위한 곳이 아닙니다. 우리가 알다시피 인터넷, 하이테크 기기, 특히 소셜 네트워크의 폭발적 성장으로 인해 누구나 "기자", "리포터", 심지어 "대변인"이 될 수 있게 되었고 수백만 명의 사람들이 이를 따르고 있습니다.
소셜 네트워크, 규칙 없는 세상
모든 것에는 양면이 있습니다. 소셜 네트워크의 폭발적인 성장은 정보와 지식이 놀라울 정도로 빠르고 광범위하게 전파되는 데 도움이 되는 등 많은 이점을 가져왔습니다. 요즘에는 사고에 대한 정보가 몇 분 안에 사람들에게 전달될 수 있으며, 심지어 지구 반대편에 있는 사람에게도 전달될 수 있습니다. 홍수, 폭풍, 산불 등의 자연 재해에 대한 정보도 사람들이 소셜 네트워크 플랫폼을 통해 신속하게 업데이트하거나 공유하여 효과적으로 확산시키거나 경고하는 데 도움이 됩니다.
그러나 이러한 긍정적인 측면과 함께 소셜 네트워크와 커뮤니티 공유 플랫폼은 걱정스러운 결과도 초래하고 있습니다. 더욱 두려운 것은 이제 인간뿐만 아니라 기계, 특히 인공지능(AI)의 급속한 확산으로 인해 인터넷 세계 전체가, 특히 기술 플랫폼이 너무 많은 위험을 안고 있는 곳이 되고 있다는 것입니다.
소셜 네트워크의 '정보 범유행' 2024년 6월 말 Redline이 발표한 통계에 따르면, 전 세계적으로 소셜 네트워크 사용자는 49억 명이 있습니다. 미국인을 대상으로 한 이 조사에 따르면, 대부분의 소셜 미디어 사용자는 Facebook, TikTok, YouTube 등 이러한 플랫폼에 퍼져 있는 정보의 정확성을 신뢰하지 않는 것으로 나타났습니다. 따라서 이 조직은 소셜 네트워크상의 잘못된 정보의 현재 상태를 설명하기 위해 "인포데믹"이라는 용어를 사용했습니다. |
소셜 미디어의 세계는 거의 규칙이 없는 원시림과 같습니다. 그곳에 살면서 사람들은 풍요와 자유, 편안함을 누리지만, 그와 함께 치명적인 함정도 있습니다. 지금까지도 거의 모든 국가가 그 "일차림"의 관리 및 조직에 어려움을 겪고 있으며, 심지어 위반 사항을 처리하기 위한 첫 번째 조치를 취하기도 했지만 "세계는" 이는 인류 전체를 덮쳤습니다.
올해 11월 말, 호주는 어린이가 매혹적이지만 위험하고 거의 무법 상태인 "원시" 세계에 들어가는 것을 금지하는 법률을 공식적으로 도입한 세계 최초의 국가가 되었습니다. 구체적으로, 호주에서는 16세 미만 어린이의 소셜 네트워크 사용을 금지하고 있으며, 소셜 네트워크가 이를 위반할 경우 최대 3,200만 달러에 달하는 엄청난 벌금을 부과합니다.
그러한 맥락에서 가짜 뉴스, 허위 정보, 특히 소셜 네트워크 사기(소프트웨어 애플리케이션, 사기성 웹사이트 등 다른 하이테크 형태를 통한 사기도 포함)가 폭발적으로 늘어나고 있으며 이는 세계적인 문제가 되고 있습니다. 베트남에서는 매일 사이버범죄의 모든 형태로 사기를 당한 피해자들에 대한 가슴 아픈 이야기를 듣습니다. 세계적으로 이는 어느 나라의 문제이기도 합니다.
올해 3월, 인터폴은 동남아시아의 온라인 사기가 전 세계적으로 확대되어 연간 최대 3조 달러(프랑스의 GDP와 동일)에 달한다고 보고했습니다. 사기꾼들이 딥페이크 기술을 사용해 고위 관리자를 사칭해 송금을 지시한 뒤 영국의 엔지니어링 그룹조차 2,500만 달러의 손실을 입었습니다. 물론, 이는 온라인에 존재하는 수백만 가지의 사기 중 몇 가지 예일 뿐입니다.
소셜 미디어에서 잘못된 정보를 퍼뜨리는 걸 다루는 건 불가능한 일인가?
여러 국가와 글로벌 기구는 특히 TikTok, Facebook, X와 같은 대규모 소셜 플랫폼에서 사이버 공간의 불법 활동을 예방하거나 처벌하기 위해 끊임없이 노력하고 있지만 실제로 처리된 사건은 매우 소수에 불과합니다.
더욱 주목할 만한 점은 지금까지 허위 정보를 유포하거나 법을 위반하는 등의 잘못에 대해 소셜 네트워크를 책임지우려는 국가나 조직이 거의 없다는 것입니다. 올해 5월, Meta는 Facebook과 Instagram 플랫폼에서 "잠재적으로 AI가 생성한" 콘텐츠가 잘못 표현되거나 사기를 치는 데 사용되고 있다는 사실을 직접 인정했습니다. 이 발언은 소셜 네트워크 자체가 유해한 정보를 퍼뜨릴 때 "무고하다"고 주장하고 있다는 것을 보여줍니다. 그렇지 않다면 그렇게 "자백"하지 않았을 것입니다.
실제로 Meta, TikTok, Google, Microsoft 또는 X와 같은 Big Tech 회사는 위반에 대해 전 세계적으로 수십억 달러의 벌금을 내야 했지만 이는 모두 사용자 개인 정보 보호 규정 위반이나 독점 금지법 위반과 관련된 것이었습니다. 하지만 그들의 "집"에서 위반 행위가 일어나도록 방치한 것에 대해 처벌을 내리는 경우는 거의 없습니다.
이 분야와 관련된 가장 주목할 만한 사례는 텔레그램 사장 파벨 두로프가 프랑스에서 체포된 사건인데, 그는 이 메시징 플랫폼을 통해 확산되는 범죄 활동을 조장한 혐의로 기소되었습니다. 그러나 정치적 의미가 담겨있을 것으로 추정되는 이 체포는 비밀리에 진행됐다. 이는 소셜 네트워크나 일반 기업을 상대로 한 공개적인 법적 소송과 같은 것이 아닙니다. 실제로 유엔이 2024년 10월에 이 플랫폼이 범죄 조직이 불법 거래를 위해 사용하는 도구라고 발표한 보고서에도 불구하고, 텔레그램 플랫폼에서의 범죄 활동과 관련하여 단 한 번의 처벌도 받은 적이 없습니다.
세계는 여전히 소셜 미디어 플랫폼에서의 가짜 뉴스, 잘못된 정보, 사기 문제를 해결하기 위해 노력하고 있습니다. 일러스트: IJNET
따라서 소셜 미디어 플랫폼이나 커뮤니티 공유만으로는 대처할 수 없는, 이처럼 명백한 불법 행위에 직면하더라도 유해한 콘텐츠와 가짜 뉴스를 통제하는 것은 어려운 일임이 분명합니다. 그리고 잘못된 정보를 통제하는 것은 더욱 터무니없습니다.
그 결과, 플랫폼은 두려워하지 않을 뿐만 아니라, 점점 더 정교해지는 알고리즘을 통해 시청자를 유치하기 위해 논란이 많고 선정적이며 터무니없거나 유해한 정보를 장려하면서 "스스로 행동"하는 징후를 보이고 있습니다. 주목할 점은 거대 기술 기업 역시 이 문제에 대해 자신들을 처벌하려는 어떤 움직임에도 압력을 가하거나 이의를 제기할 준비가 되어 있다는 것입니다. 소셜 네트워크 X의 소유주이자 억만장자 엘론 머스크는 2024년 9월 온라인에서 잘못된 정보를 방지하지 못할 경우 소셜 미디어 회사에 벌금을 부과하는 것을 제안하는 새로운 호주 법안에 반대 의사를 표명했습니다.
여전히 호주 법안에 해당하지만, 인터넷 플랫폼은 허위 정보를 유포한 경우 전 세계 매출의 최대 5%에 해당하는 벌금을 물어야 할 수 있습니다. Google과 Meta 등 다른 주요 기술 플랫폼도 우려를 표명하고 호주의 새로운 법안에 이의를 제기했습니다. 이 법안은 허위 정보, 가짜 뉴스, 사기 행위를 퍼뜨리는 소셜 네트워크를 처벌한다는 내용을 언급한 세계적으로 희귀한 법안입니다.
우리가 전통적인 미디어와 저널리즘의 세계를 살펴보면, 그 역설은 받아들이기 어렵습니다. 신문이나 TV 채널이 사소한 직업적 실수를 저지르거나, 허위 정보를 제공하거나 법을 어기면 전체 기관이 엄중하게 처벌받을 수 있다는 것은 누구나 알고 있습니다. 최소한 독자들은 외면당할 것입니다. 해당 정보를 제공한 기자 또는 편집자가 책임을 져야 합니다.
"세계적 팬데믹"이 통제 불능으로 확산되고 있다
잘못된 정보, 가짜 뉴스, 독성 나쁜 뉴스 및 사기의 문제는 전쟁이나 전염병보다 더 심각하다고 할 수 있습니다. 이는 전 세계 모든 세대, 특히 젊은 세대에 영향을 미칠 수 있기 때문입니다. 소셜 미디어, 특히 Facebook, TikTok, Google의 중독성 있는 짧은 동영상 기능이 어린이의 신체적, 정신적 건강에 해롭다는 것을 보여주는 연구가 너무나 많이 있었습니다.
유니세프는 최근 연구에서 소셜 네트워크는 가능한 한 오랫동안 사용자의 관심을 끌도록 설계되어 있으며, 원하는 대로 우리의 편견과 심리적 취약성을 이용한다고 지적했습니다. 인정받고 싶어하거나 거부당하는 것을 두려워하는 사람들 말입니다. 과도한 소셜 미디어 사용은 질투, 열등감, 낮은 삶의 만족도와 관련이 있습니다. 연구에 따르면 이러한 습관은 우울증, 불안증, 수면 부족 등의 증상으로 이어질 수 있는데, 이 중 가장 전형적인 것은 정신 질환입니다.
가수 테일러 스위프트는 AI 딥페이크 문제의 희생자가 된 유명인 중 한 명이다. 사진: 허버트 왕
베트남, 소셜 네트워크가 사용자 인증을 받도록 강제하는 규정 발효 베트남 정부가 최근 발표한 인터넷 서비스와 온라인 정보의 관리, 제공 및 사용에 관한 법령 147/2024/ND-CP가 2024년 12월 25일부터 발효됩니다. 이에 따라 이 규정은 소셜 네트워크가 전화번호나 개인 식별 번호를 통해 사용자를 인증하도록 요구하며, 인증된 계정만이 정보를 제공하고(기사 작성, 댓글 달기, 라이브 스트리밍) 소셜 네트워크에서 정보를 공유할 수 있습니다. 이 법령은 가짜 및 오해의 소지가 있는 정보의 확산과 특히 소셜 네트워크에서의 사기 행위를 크게 제한할 것으로 기대됩니다. |
잘못된 정보, 가짜 뉴스, 딥페이크가 실제 생활에 심각한 영향을 끼쳐 잠재적으로 전 세계적인 위협이 될 수 있다는 것을 보여주는 사례가 많이 있습니다. 올해 8월, 영국에서 어린 소녀를 칼로 찔러 죽인 사건의 용의자가 급진적인 무슬림 이민자라는 거짓 주장이 소셜 미디어에 퍼지면서 폭동이 일어났습니다. (진짜는 영국인이었습니다.) 이 폭동으로 인해 경찰에 의해 수천 명이 체포되었습니다.
2024년 7월 도널드 트럼프에 대한 암살 시도가 실패했을 당시, 소셜 미디어 세계는 이탈리아 기자가 용의자(실제로는 테러리스트)로 간주된다는 등의 가짜 뉴스나 음모론으로 넘쳐났습니다. (20대 미국인) 소셜 미디어에는 용의자가 중국인이거나 사건이 "각본화된 시나리오"라는 허위 정보가 유포되기도 했습니다. 잘못된 정보의 확산은 러시아-우크라이나, 이스라엘-팔레스타인 전쟁 또는 반-이슬람 문제, 인종차별과 같은 세계의 모든 갈등과 핫스팟에 대한 증오를 증가시키고 있습니다. 유대인.
게다가 AI가 폭발적으로 증가하면서, 잘못된 정보에 맞선 싸움이 걷잡을 수 없이 심화되고 있습니다. 딥페이크 도구와 저렴한 AI 모델이 별다른 통제 없이 급증하고 있습니다.
DeepMedia 통계에 따르면, 딥페이크 영상과 음성의 양은 매년 급증하고 있습니다. 2023년 딥페이크 영상은 2022년 대비 3배 이상, 딥페이크 음성은 8배 이상 증가했습니다. 이 중 2024년에는 전 세계적으로 약 50만 개의 딥페이크 영상과 음성이 소셜 네트워크에서 공유될 것으로 예상됩니다.
2024년 초, AI가 생성한 가수 테일러 스위프트의 포르노 이미지가 소셜 미디어에 퍼져 전 세계에 큰 충격을 안겼습니다. 이에 더해 미국 조 바이든 대통령을 비롯해 영국, 인도, 나이지리아, 수단, 에티오피아, 슬로바키아 등 세계 각국의 정치인들도 가짜뉴스 문제로 피해를 보고 있다. 딥페이크 폼
따라서 사이버공간에서의 가짜뉴스, 허위정보, 특히 사기행위 문제는 점점 더 심각해지고 있다. 다가올 AI 시대에 이 "글로벌 팬데믹"은 전 세계, 특히 각국의 정책 입안자들이 이를 예방하기 위해 공동으로 노력하지 않는다면 통제 불능 상태로 치닫을 수 있습니다.
황하이
[광고2]
출처: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html
Comment (0)