AI가 뱀파이어를 그릴 때
비영리 단체 Media Matters의 보고서에 따르면, TikTok 사용자들은 세계 종말에 대한 근거 없는 "음모론"을 홍보하는 영상으로 수익을 창출하는 경우가 점점 늘어나고 있습니다.
이는 플랫폼을 통해 허위 정보가 빠른 속도로 퍼지고 있다는 것을 보여주는 최근의 사례입니다. 이는 최근 정책 논쟁에서 반복적으로 거론된 어려운 문제이며, 특히 미국 의원들이 국가 안보상의 이유로 해당 앱을 금지하는 것을 고려하고 있기 때문입니다.
인공 지능(AI)이 만든 유명인의 목소리와 함께 소름 돋는 배경 음악이 삽입된 악성 영상은 종종 TikTok에서 수백만 건의 조회수를 기록합니다. 특히, 음모론을 다룬 영상은 익명의 계정을 통해 게시되는 경우가 많습니다.
TikTok 연구원 애비 리처즈는 이러한 영상이 플랫폼의 크리에이터 프로그램을 통해 TikTok 크리에이터에게 재정적으로 이익이 될 수 있다고 말했습니다.
이 "가내 산업"은 널리 이용 가능하고 무료인 AI 도구로 구동됩니다.
TikTok 대변인은 "음모론은 사용자 피드에서 수익화나 추천 대상이 될 수 없다"고 강조했습니다.
해당 인물은 악의적인 허위 정보는 금지될 것이며, 안전팀이 사용자로부터 신고를 받기 전에 95%를 사전에 삭제할 것이라고 주장했습니다.
올해는 전 세계적으로 주요 선거가 치러질 것으로 예상됨에 따라 AI가 생성하는 잘못된 정보에 대한 우려가 특히 높습니다.
유럽과 미국 모두 틱톡을 두려워한다
지난주, 유럽연합(EU)은 디지털 서비스법(DSA)을 사용하여 TikTok을 포함한 여러 플랫폼에 압력을 가해 27개국으로 구성된 유럽연합의 다가올 선거에 부정적인 영향을 미칠 수 있는 AI의 위험을 해결하도록 했습니다.
약 1억 7천만 명의 TikTok 사용자를 보유한 미국에서도 의원들은 지난주 TikTok 금지 법안을 압도적 다수로 지지했습니다.
3월 13일 하원에서 통과된 이 법안은 모회사인 ByteDance가 180일 이내에 TikTok 앱에 대한 통제권을 포기하는 조치를 취하도록 요구하고 있으며, 그렇지 않을 경우 해당 앱이 미국 내 Apple과 Google 앱 스토어에서 금지됩니다.
이는 저작권 침해와 사용자 데이터 오용 혐의로 인해 전 세계적으로 인기를 끌고 있는 동영상 공유 앱 TikTok에 지금까지 가장 큰 위협으로 여겨집니다. TikTok 측은 이러한 주장을 거듭해서 부인했다.
[광고2]
원천
댓글 (0)