기술의 발전이 소셜 미디어와 대중 매체에 지속적으로 영향을 미치면서, 딥페이크 사기도 늘어나면서 딥페이크가 주요 문제가 되고 있습니다.
딥페이크는 나쁜 목적으로 사용될 수 있습니다
사이버 범죄자들이 자주 활동하는 다크넷 포럼을 조사한 결과, 카스퍼스키는 많은 범죄자가 사기를 목적으로 딥페이크를 사용하고 있으며, 수요가 소프트웨어 공급을 훨씬 초과하고 있다는 사실을 확인했습니다. 딥페이크 소프트웨어는 시중에 판매되고 있습니다.
카스퍼스키 전문가들은 수요가 공급을 초과함에 따라 딥페이크 사기가 더욱 다양하고 정교한 형태로 증가할 것으로 예측하고 있습니다. 전체 제작 서비스를 갖춘 고품질 사칭 영상 제공부터 유명인 이미지를 가짜 소셜 미디어 라이브 스트리밍에 사용하고 피해자가 보낸 돈의 두 배를 지불하겠다고 약속하는 것까지.
"딥페이크는 여성과 사회에 악몽이 되었습니다. 사이버 범죄자들은 이제 인공 지능(AI)을 이용하여 피해자의 얼굴을 포르노 사진과 비디오에 이식하고 선전 캠페인에 사용하고 있습니다. 이 양식은 허위 정보를 퍼뜨리거나 심지어 조직이나 개인의 평판을 손상시킬 수도 있습니다. 우리는 대중이 이 위협에 대해 더욱 경계할 것을 촉구합니다." 카스퍼스키 베트남 지역 책임자인 보 두옹 투 디엠 씨가 공유했습니다.
정보 참조 시스템인 Regula에 따르면, 전 세계 기업의 37%가 음성 딥페이크 사기를 경험했으며 29%는 딥페이크 영상의 희생자가 되었습니다. 딥페이크는 베트남에서 사이버 보안에 위협이 되고 있는데, 사이버 범죄자들은 종종 딥페이크 화상 통화를 사용하여 개인을 사칭하고 학교 등록금을 위해 친척과 친구에게서 많은 돈을 빌립니다. 긴급 게다가 딥페이크 영상 통화는 단 1분 만에 이루어질 수 있어 피해자가 진짜 통화와 가짜 통화를 구별하기 어려울 수 있습니다.
범죄자들이 악의적인 목적으로 AI를 남용하고 있지만, 개인과 기업은 여전히 AI를 활용하여 딥페이크를 식별하고 사기가 성공할 가능성을 줄일 수 있습니다.
카스퍼스키는 사용자가 딥페이크 사기로부터 자신을 보호할 수 있는 솔루션을 공유합니다.
AI 콘텐츠 감지 도구 : AI 기반 콘텐츠 감지 소프트웨어는 고급 AI 알고리즘을 사용하여 이미지, 비디오, 오디오 파일의 조작 수준을 분석하고 판단합니다. 딥페이크 영상의 경우 일부 도구는 일치하지 않는 입 움직임과 말을 감지하는 데 도움이 됩니다. 일부 도구는 심장이 혈액을 펌핑할 때 인체의 정맥 색상이 변하는 원리를 이용해 비디오의 해상도를 분석하여 피부 아래의 비정상적인 혈류를 감지합니다.
워터마크가 적용된 AI 콘텐츠 : 워터마크는 저자가 AI 작품의 저작권을 보호하는 데 도움이 되는 이미지, 비디오 등의 식별 표시 역할을 합니다. 하지만 이 툴은 AI를 만든 플랫폼의 기원을 추적하는 데 도움이 될 수 있으므로 딥페이크에 대항하는 무기가 될 수 있습니다.
콘텐츠 출처 : AI는 다양한 소스에서 방대한 양의 데이터를 수집하여 새로운 콘텐츠를 생성하므로, 이 접근 방식은 해당 콘텐츠의 출처를 추적하는 것을 목표로 합니다.
영상 인증 : 영상 콘텐츠가 처음 생성된 이후 변경되지 않았는지 확인하는 프로세스입니다. 이것이 영상 제작자가 가장 걱정하는 과정입니다. 일부 새로운 기술은 암호화 알고리즘을 사용하여 일정 간격으로 해시 값을 비디오에 삽입합니다. 비디오가 편집된 경우 해시 값이 변경됩니다.
[광고2]
소스 링크
Comment (0)