AI의 악의적 사용 사례 중 정치적 딥페이크가 상위를 차지

구글 딥마인드 연구에 따르면, AI 챗봇과 같은 도구를 사용하여 잘못된 정보를 만드는 것보다 인간을 가장한 이미지, 비디오, 오디오를 만드는 경우가 거의 두 배나 더 흔합니다.

분석 결과, 합성 AI를 남용하는 행위자들의 가장 일반적인 목적은 여론을 형성하거나 영향을 미치는 것입니다. 이 수치는 사용량의 27%를 차지하며, 딥페이크가 올해 전 세계 선거에 어떤 영향을 미칠 수 있는지에 대한 우려가 커지고 있습니다.

총선을 앞두고 영국 총리 리시 수낵의 가짜 사진이 TikTok과 Instagram에 등장했습니다. 사진: AFP

최근 몇 달 동안 영국 재무장관 리시 수낵과 다른 세계 지도자들의 딥페이크 영상이 TikTok, X, Instagram에 등장했습니다. 영국 유권자들은 다음 주에 총선을 위해 투표소에 갈 것입니다.

소셜 미디어에서 이런 콘텐츠에 라벨을 붙이거나 삭제하려는 노력에도 불구하고, 청중은 이를 가짜로 인식하지 못할 수 있으며 이러한 콘텐츠가 유권자에게 영향을 미칠 수 있다는 우려가 있습니다.

앨런 튜링 연구소의 연구원인 아르디 얀제바는 논문의 결과를 "특히 관련성 있는" 것으로 부르며, AI가 생성한 공공 정보는 "사회정치적 현실에 대한 우리의 공유된 이해를 왜곡할 수 있다"고 말했습니다.

"딥페이크가 투표 행동에 미치는 영향에 대해 확신하지 못하더라도 이러한 왜곡은 단기적으로 감지하기 어려울 수 있으며 장기적으로 민주주의에 위험을 초래할 수 있습니다."라고 Janjeva는 덧붙였습니다.

Google DeepMind의 연구 책임자인 연구원 Nahema Marchal은 "이러한 도구를 사용하여 만들어지는 매우 정교한 사이버 공격에 대한 우려가 많이 있었습니다."라고 말했습니다.

구글 딥마인드와 지그소의 연구원들은 2023년 1월부터 2024년 3월까지 소셜 네트워크 X와 Reddit, 온라인 블로그, 미디어의 오용 사례 등에서 수집한 약 200건의 AI 오용 사례를 분석했습니다.

두 번째로 흔한 학대 동기는 수익 창출입니다. 여기에는 실제 사람의 누드 사진을 만들거나 AI를 사용하여 가짜 뉴스 기사와 같은 다양한 콘텐츠를 생성하는 것이 포함됩니다. 대부분의 시나리오에서는 "최소한의 기술적 전문성이 필요한" 접근 가능한 도구를 사용하는데, 이는 많은 악의적인 행위자가 창의적인 AI를 남용할 수 있다는 것을 의미합니다.

Ngoc Anh (FT에 따르면)

출처: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-sach-su-dung-ai-doc-hai-post300851.html