전문가들은 딥페이크에 대한 위기 관리 시나리오를 특별히 준비할 것을 권고합니다.

전문가들은 딥페이크라는 용어와 가수 테일러 스위프트 등 유명인의 가짜 누드 사진이 X...에 유포되는 최근 문제에 대해 어떻게 말하고 있을까?

다음은 딥페이크의 유해한 영향과 이 문제에 대한 해결책에 대한 RMIT 대학의 두 전문가의 의견입니다.

조나단 크렐린 박사(왼쪽)와 응우옌 반 탕 롱 박사(오른쪽). (출처: RMIT 대학교)

사이버 범죄자들은 ​​예상치 못한 방식으로 새로운 기술을 악용합니다.

Jonathan Crellin 박사, RMIT 대학교 과학, 공학, 기술 학부 정보 보안 책임자 :

딥페이크는 여러 소스의 이미지나 비디오를 결합하여 매우 사실적인 이미지, 비디오 또는 오디오를 만드는 기계 생성 이미지입니다.

딥페이크는 머신 러닝이라는 AI 기술을 활용하는데, 이 기술은 사람의 얼굴과 같은 요소를 다른 이미지나 비디오로 바꿔 통합할 수 있습니다.

딥페이크 사용의 한 예로는 포르노 콘텐츠와 테일러 스위프트의 사진을 결합하여 가짜 이미지를 만드는 것이 있습니다.

이를 위해 이 음모자는 소프트웨어가 가수의 얼굴 표정을 학습할 수 있도록 몇 장의 이미지가 필요했고, 이를 음란물 콘텐츠와 결합하여 음란한 사진을 만들어 가수의 이미지를 손상시켰습니다.

실제로, 이 사진들은 텔레그램 그룹에서 공개되었으며, AI 지원이 통합된 Microsoft Designer 도구를 사용하여 제작되었다는 소문이 있습니다.

누구든 피해자가 될 수 있는데, 악당들은 사칭하는 사람의 사진, 비디오 또는 오디오 녹음만 원하기 때문입니다.

가짜 뉴스는 여러 형태로 존재하며, 가짜 뉴스를 만들어내는 데 이용될 가능성이 있으며, 다가오는 미국 대선도 그런 가짜 뉴스로 가득 찰 것이라고 가정하는 것이 안전합니다.

현재 전 세계의 입법자들은 이러한 유형의 이미지를 금지하는 법률 제정을 모색하고 있습니다.

미국에서는 입법 측면에서 일부 접근 방식이 채택되기 시작했습니다. 예를 들어 민사 소송에 의존하거나, "AI가 해당 인물의 동의 없이 생성한 성적 노골적인 이미지를 유포하는 행위"를 다루는 법률이 있습니다.

중국은 또한 AI가 생성한 이미지를 유포하는 사람을 기소할 수 있도록 하는 새로운 규정을 도입했습니다.

영국은 온라인 안전법에 따라 딥페이크 콘텐츠 공유를 불법으로 규정했습니다.

이를 감지하거나 예방하려면 어떻게 해야 하나요?

첫 번째 방법은 온라인에 있는 이미지, 비디오, 오디오 녹음의 수를 줄이는 것입니다. 아는 사람에게만 공유하고 온라인에 널리 게시하지 않도록 하세요. 콘텐츠가 인터넷에 올라가면 삭제하는 건 거의 불가능합니다.

두 번째 방법은 가족과 통화 내용을 인증하는 비밀 단어를 약속하는 것입니다. 이렇게 하면 가짜 전화의 함정에 빠질 위험을 줄일 수 있습니다.

특히 비디오의 경우 이미지에 이상한(연출된 것처럼 보이는) 오류가 있을 수 있습니다. 이러한 오류를 발견하면 이미지나 사운드가 조작되었을 가능성이 높습니다.

또 다른 방법은 Google이나 다른 검색 엔진에서 "역이미지"를 검색하여 원본 이미지의 출처를 확인하는 것입니다.

마지막 교훈은 눈에 보이는 것을 맹목적으로 믿지 마세요. 카메라(또는 AI)는 거짓말을 할 수 있습니다!

딥페이크는 유명인과 정치인에게 큰 위협이 됩니다.

Nguyen Van Thang Long 박사, RMIT 대학교 커뮤니케이션 및 디자인 학부 선임 강사 :

딥페이크로 인한 가짜 뉴스가 급증함에 따라, 유명인과 정치인이 소속된 미디어 팀은 가짜 뉴스를 모니터링하고 신속하게 대응하거나, 가짜 뉴스를 지속적으로 수정할 수 있는 자원을 확보해야 합니다.

딥페이크가 조직적인 형태의 '더티 PR'과 체계적으로 결합된다면, 상충되는 정보가 급증하여 작업이 훨씬 더 어려워지고, 가짜 뉴스와 부정적인 뉴스가 긍정적인 뉴스보다 항상 더 많이 공유될 것입니다.

일반적으로 사람들은 소셜 네트워크에서 공유되는 뉴스를 볼 때 공식 미디어 채널을 통해 정보를 확인하는 습관이 있습니다.

딥페이크 콘텐츠가 소셜 미디어에 넘쳐나면서 주류 뉴스의 정확성을 검증하는 것이 점점 더 어려워지고 시간도 많이 소요되고 있어 심층적인 조사와 검증 기술이 요구되고 있습니다.

뉴스와 출처의 검증을 늦출수록 소셜 미디어에서 공유되고 댓글이 달리는 속도가 빨라져 거짓, 조작 또는 오해의 소지가 있는 정보가 퍼질 가능성이 커집니다.

이는 근본적인 문제를 악화시키고 사회적 불안으로 이어질 가능성이 있습니다. 특히 내용이 정치적 발언, 종교, 성별, 사업 전략 또는 거시경제 문제와 관련이 있는 경우 더욱 그렇습니다.

딥페이크가 널리 퍼지는 상황에서 가장 효과적인 위험 관리 전략은 인기 있는 소셜 미디어 플랫폼, 웹사이트 또는 대면 회의를 통해 기업, 유명인, 정치인, 팬, 언론, 커뮤니티, 직원 등 주요 이해 관계자 간에 일관된 커뮤니케이션 채널을 유지하는 것입니다.

AI의 사용이 증가함에 따라 이점도 생기지만 예상치 못한 새로운 문제도 발생합니다. 일러스트 사진. (출처: Freepik)

이러한 커뮤니케이션 채널을 유지함으로써 딥페이크 관련 정보를 더 빨리 수신할 수 있고, 시기적절하고 효과적인 루머 수정이 가능하며, 잘못된 정보를 처음부터 폭로할 수 있습니다.

하지만 기업, 유명인, 정치인은 딥페이크에 대한 위기 관리 시나리오를 구체적으로 생각해 내야 합니다. 예를 들어, 누가 어떤 미디어 채널을 통해 발표했는지, 증거와 신뢰할 수 있는 출처를 통해 정보를 검증하는 기준, 소문을 해소하기 위한 일정을 수립하는 것, 그리고 평판을 회복하기 위한 전략을 개략적으로 설명하는 것입니다.

잘 준비된 체계적인 계획을 세우면 딥페이크 위기를 처리하는 것이 더 실현 가능해지고, 불행한 결과가 발생할 가능성도 최소화됩니다.

원천: https://baoquocte.vn/chuyen-gia-khuyen-cao-cach-chuan-bi-truoc-kich-ban-xu-ly-khung-hoang-danh-rieng-cho-deepfake-262149.html