허위 정보, 딥페이크, 사기에 맞선 전설적인 싸움

(NB&CL) 전쟁, 무장 폭력, 심각한 세계적 지정학적 분열 외에도 2024년의 세계는 여전히 잘못된 정보, 가짜 뉴스, 사기에 맞서는 또 다른 주요 전투에 직면해 있습니다. 이 문제는 종식시키기 어려운 전설적인 이야기가 될 것이며, 전 세계가 힘을 합쳐 과감한 조치를 취하지 않는다면 점점 더 심각해질 것으로 예측됩니다.

정보 혼란 - 점점 커지는 위험

정보 혼란, 특히 잘못된 정보와 사이버 사기는 "글로벌 팬데믹"으로 여겨지고 있습니다. 이는 진실을 보호한다는 사명을 지닌 기존 언론 기관이 개척자 역할을 해야 하는 전 세계의 공통된 싸움입니다. 그러나 이러한 싸움은 각 국가와 국제기구에서 과감하고 근본적인 조치를 취해야만 성공할 수 있습니다.

가짜 뉴스, 잘못된 정보, 특히 사기 행위는 이제 세계가 새로운 소통 시대로 접어들면서 피할 수 없는 결과이자 부정적인 측면이 되었습니다. 간단히 말해서, 이 무대는 더 이상 검열받는 언론사와 언론사만을 위한 곳이 아닙니다. 우리가 알고 있듯이 인터넷, 하이테크 기기, 특히 소셜 네트워크의 폭발적인 성장으로 누구나 수백만 명의 사람들이 따르는 "기자", "리포터" 또는 심지어 "대변인"이 될 수 있게 되었습니다.

규칙 없는 세상, 소셜 네트워크

모든 것에는 양면이 있습니다. 소셜 네트워크의 폭발적인 성장은 정보와 지식이 놀라울 정도로 빠르고 광범위하게 전파되는 데 도움이 되는 등 많은 이점을 가져왔습니다. 요즘에는 사고에 대한 정보가 몇 분 안에, 심지어 지구 반대편에 있는 사람에게도 전달될 수 있습니다. 홍수, 폭풍, 산불 등 자연재해에 대한 정보도 사람들이 소셜 네트워크 플랫폼을 통해 빠르게 업데이트하거나 공유하여 효과적으로 정보를 전파하거나 경고하는 데 도움이 됩니다.

그러나 이러한 긍정적인 측면과 함께 소셜 네트워크와 커뮤니티 공유 플랫폼은 우려스러운 결과도 가져오고 있습니다. 더욱 무서운 것은 인간뿐만 아니라 기계, 특히 인공지능(AI)의 급속한 확산으로 인해 인터넷 세계 전체와 특히 기술 플랫폼이 너무 많은 위험을 안고 있는 곳이 되고 있다는 것입니다.

소셜 네트워크의 '정보 범유행'

2024년 6월 말 Redline이 발표한 통계에 따르면 전 세계적으로 소셜 네트워크 사용자는 49억 명입니다. 미국인을 대상으로 한 이 조사에 따르면, 대부분의 소셜 미디어 사용자는 Facebook, TikTok, YouTube 등 이러한 플랫폼에 퍼져 있는 정보의 정확성을 신뢰하지 않는 것으로 나타났습니다. 따라서 이 조직은 소셜 네트워크상의 잘못된 정보의 현재 상태를 설명하기 위해 "정보전염병"이라는 용어를 사용했습니다.

소셜 미디어의 세계는 거의 규칙이 없는 원시림과 같습니다. 그곳에 살면서 사람들은 다산, 자유, 편안함을 누리지만, 그와 함께 치명적인 함정도 있습니다. 지금까지도 거의 모든 국가가 그 "일차림"의 관리 및 조직에 어려움을 겪고 있으며, 이 "세상"이 인류 전체를 덮고 있음에도 불구하고 침해 사항을 처리하기 위한 첫 번째 조치를 취하고 있습니다.

올해 11월 말, 호주는 세계 최초로 어린이가 매혹적이면서도 위험하고 거의 무법 상태인 "원시적" 세계에 들어가는 것을 금지하는 법률을 공식적으로 도입한 나라가 되었습니다. 구체적으로, 호주는 16세 미만 어린이의 소셜 네트워크 사용을 금지하고 있으며, 소셜 네트워크가 이를 위반할 경우 최대 3,200만 달러의 엄청난 벌금을 부과합니다.

그러한 맥락에서 가짜 뉴스, 허위 정보, 특히 소셜 네트워크에서의 사기(소프트웨어 애플리케이션, 사기 웹사이트 등 다른 첨단 기술을 통한 사기 포함)가 폭발적으로 늘어나면서 전 세계적인 문제가 되고 있습니다. 베트남에서는 매일 사이버 범죄의 모든 형태로 사기를 당한 피해자들에 대한 가슴 아픈 이야기를 듣습니다. 세계적으로 이는 어느 나라의 문제이기도 합니다.

올해 3월, 인터폴은 동남아시아의 온라인 사기가 전 세계적으로 확대되어 연간 최대 3조 달러(프랑스의 GDP와 동일)에 달한다고 보고했습니다. 사기꾼들이 딥페이크 기술을 사용해 고위 관리자를 사칭해 자금 이체를 지시한 뒤, 영국의 엔지니어링 그룹도 2,500만 달러의 손실을 입었습니다. 물론 이는 온라인에 존재하는 수백만 가지의 사기 중 몇 가지 예일 뿐입니다.

소셜 미디어를 통해 잘못된 정보가 퍼지는 걸 막는 건 불가능한 일인가?

여러 국가와 글로벌 기관이 사이버 공간, 특히 TikTok, Facebook, X와 같은 대규모 소셜 플랫폼에서 불법 활동을 예방하거나 처벌하기 위해 끊임없이 노력하고 있지만, 처리된 사례의 수는 여전히 매우 적습니다.

더욱 주목할 점은 지금까지 거의 어떤 국가나 조직도 소셜 네트워크에 허위 정보를 유포하거나 법을 위반하는 등의 불법 행위에 대한 책임을 묻지 않았다는 점입니다. 올해 5월, Meta는 Facebook과 Instagram 플랫폼에서 "잠재적으로 AI가 생성한" 콘텐츠가 허위 정보를 전달하거나 사기를 치는 데 사용되고 있음을 발견했다고 직접 인정했습니다. 이 발언은 소셜 네트워크 자체가 해로운 정보를 퍼뜨릴 때 "무고하다"고 주장한다는 것을 보여줍니다. 그렇지 않다면 그렇게 "자백"하지 않았을 것입니다.

실제로 Meta, TikTok, Google, Microsoft, X와 같은 Big Tech 회사는 위반 행위로 전 세계적으로 수십억 달러의 벌금을 내야 했지만 이는 사용자 개인정보 보호 규정이나 독점 금지법 위반과만 관련이 있을 뿐, 자사 내에서 위반 행위가 발생하도록 방치한 데 대한 처벌은 거의 없었습니다.

이 분야와 관련된 가장 주목할 만한 사례는 프랑스에서 텔레그램 사장 파벨 두로프가 체포된 사건인데, 그는 이 메시징 플랫폼을 통해 확산되는 범죄 활동을 조장한 혐의로 기소되었습니다. 그러나 정치적 의미가 있는 것으로 추정되는 이 체포는 비밀리에 진행됐다. 이는 소셜 네트워크나 일반 기업을 상대로 한 공개적인 법적 소송과는 다릅니다. 사실, 유엔이 2024년 10월에 이 플랫폼이 범죄 조직이 불법 거래를 위해 사용하는 도구라고 발표한 보고서에도 불구하고, 텔레그램은 이 플랫폼에서 발생한 범죄 활동과 관련하여 단 한 건의 처벌도 받은 적이 없습니다.

세계는 여전히 소셜 미디어 플랫폼의 가짜 뉴스, 잘못된 정보, 사기 문제를 해결하는 데 어려움을 겪고 있습니다. 일러스트: IJNET

따라서 이처럼 명백한 불법 행위가 있더라도 소셜 미디어 플랫폼이나 커뮤니티 공유를 통해 대처하는 것은 불가능하며, 유해한 콘텐츠, 가짜 뉴스, 잘못된 정보를 통제하는 것은 매우 어려운 일임이 분명합니다.

그 결과, 플랫폼은 두려워하지 않을 뿐만 아니라, 점점 더 정교해지는 알고리즘을 통해 시청자를 유치하기 위해 논란의 여지가 있고 선정적이며 터무니없거나 유해한 정보를 장려하면서 "스스로 행동"하는 징후를 보이고 있습니다. 주목할 점은 빅테크 기업들 역시 이 문제에 대해 자신들을 처벌하려는 모든 움직임에 압력을 가하거나 이의를 제기할 준비가 되어 있다는 것입니다. 소셜 네트워크 X의 소유주이자 억만장자 엘론 머스크는 2024년 9월 온라인에서 잘못된 정보를 막지 못할 경우 소셜 미디어 기업에 벌금을 부과하는 새로운 호주 법안에 반대 의사를 표명했습니다.

여전히 호주 규정에 따른 이 법안에 따르면, 인터넷 플랫폼은 허위 정보를 유포한 경우 전 세계 매출의 최대 5%에 해당하는 벌금을 부과받을 수 있습니다. Google과 Meta 등 다른 주요 기술 플랫폼도 우려를 표명하고 호주의 새로운 법안에 이의를 제기했습니다. 이는 허위 정보, 가짜 뉴스, 사기 행위를 퍼뜨리는 소셜 네트워크를 처벌한다는 내용을 담고 있는 세계적으로도 드문 법안입니다.

우리가 전통적인 미디어와 저널리즘의 세계를 살펴보면, 그 역설은 받아들이기 어렵습니다. 신문이나 텔레비전 채널이 아무리 사소한 직업적 실수를 저지르고, 허위나 불법적인 정보를 제공하면, 기관 전체가 엄중히 처벌받을 수 있고, 최소한 독자들은 정보를 제공한 기자나 편집자뿐만 아니라 그들에게 등을 돌릴 것이라는 사실은 누구나 알고 있습니다.

"세계적 대유행"이 통제 불능 상태로 치닫고 있다

잘못된 정보, 가짜 뉴스, 유해한 뉴스 및 사기 문제는 전쟁이나 전염병보다 더 심각하다고 할 수 있습니다. 이는 전 세계 세대, 특히 젊은 세대에 영향을 미칠 수 있기 때문입니다. 소셜 미디어, 특히 페이스북, 틱톡, 구글의 중독성 있는 짧은 동영상 기능이 어린이의 신체적, 정신적 건강에 해롭다는 것을 보여주는 연구가 너무 많이 있었습니다.

유니세프는 최근 연구에서 소셜 네트워크가 사용자의 관심을 가능한 한 오랫동안 사로잡도록 설계되어 승인에 대한 욕구나 거부에 대한 두려움과 같은 우리의 편견과 심리적 취약성을 이용한다고 지적했습니다. 과도한 소셜 미디어 사용은 질투, 열등감, 낮은 삶의 만족도와 관련이 있습니다. 연구에 따르면 이러한 습관은 우울증, 불안, 수면 부족 등의 증상으로 이어질 수 있으며, 그 중 가장 전형적인 것이 정신 질환입니다.

가수 테일러 스위프트도 AI 딥페이크 문제의 희생자가 된 유명인 중 한 명이다. 사진: 허버트 왕

베트남, 소셜 네트워크 사용자 인증 의무화 규정 발효

베트남 정부가 최근 발표한 인터넷 서비스 및 온라인 정보의 관리, 제공 및 이용에 관한 법령 147/2024/ND-CP가 2024년 12월 25일부터 발효됩니다. 이에 따라 이 규정은 소셜 네트워크가 전화번호 또는 개인 식별 번호를 통해 사용자를 인증하도록 요구하며, 인증된 계정만 소셜 네트워크에서 정보를 제공하고(기사 작성, 댓글, 라이브 스트리밍) 정보를 공유할 수 있도록 허용합니다. 이 법령은 소셜 네트워크에서 허위 및 오해의 소지가 있는 정보의 확산과 특히 사기 행위를 크게 제한할 것으로 기대됩니다.

잘못된 정보, 가짜 뉴스, 딥페이크가 실제 생활에 심각한 영향을 미치고 잠재적으로 전 세계적인 위협이 될 수 있다는 것을 보여주는 사례가 많이 있습니다. 올해 8월, 영국에서 어린 소녀를 칼로 찔러 죽인 사건의 용의자가 급진적인 무슬림 이민자(실제로는 영국인)라는 거짓 주장이 소셜 미디어에 퍼지면서 폭동이 일어났습니다. 폭동으로 인해 경찰이 수천 명을 체포했습니다.

2024년 7월 도널드 트럼프 암살 시도 당시에도 소셜 미디어 세계는 가짜 뉴스와 음모론으로 넘쳐났습니다. 예를 들어, 이탈리아 기자가 용의자로 여겨졌다는 사실(실제로는 20세 미국인 남성) 등이 있습니다. 소셜 미디어에는 용의자가 중국인이거나 사건이 "각본에 의한 연출된 시나리오"라는 허위 정보가 퍼져 있었습니다. 잘못된 정보가 확산되면서 러시아-우크라이나, 이스라엘-팔레스타인 전쟁이나 반이슬람, 반유대주의 문제 등 세계의 모든 갈등과 분쟁 지역에 대한 증오도 커지고 있습니다.

게다가 AI의 폭발적인 성장으로 인해 잘못된 정보에 대한 싸움이 걷잡을 수 없이 심화되고 있습니다. 딥페이크 도구와 저렴한 AI 모델이 별다른 통제 없이 급증하고 있습니다.

DeepMedia 통계에 따르면, 딥페이크 영상과 음성의 양은 매년 급증하고 있습니다. 2022년에 비해 2023년에는 딥페이크 영상이 3배 이상, 딥페이크 음성이 8배 이상 증가했습니다. 이 중 약 50만 개의 딥페이크 영상과 음성이 2024년에 전 세계적으로 소셜 네트워크에서 공유될 것으로 예상됩니다.

2024년 초, AI가 생성한 가수 테일러 스위프트의 음란물 이미지가 소셜 미디어에 퍼져 전 세계에 큰 충격을 안겼습니다. 또한 미국 대통령 조 바이든을 비롯한 영국, 인도, 나이지리아, 수단, 에티오피아, 슬로바키아의 지도자들을 비롯한 전 세계 정치인들도 딥페이크 사칭 문제의 희생자가 되었습니다.

따라서 사이버 공간에서의 가짜 뉴스, 허위 정보, 특히 사기 행위의 문제는 점점 더 심각해지고 있습니다. 다가오는 AI 시대에 이 "세계적 유행병"은 전 세계, 특히 각국의 정책 입안자들이 이를 막기 위해 공동으로 노력하지 않는다면 통제 불능 상태로 확대될 수 있습니다.

황하이

출처: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html