Deepfake를 사용하여 TikTok에서 유명인 비디오 만들기

음란물이나 사기성은 아니지만, 최근 유명인사들이 소셜 네트워크 TikTok의 교육 영상에 자신의 모습이 등장하면서 새로운 트렌드에 "애착"을 갖게 되었습니다. 여기에는 가수 테일러 스위프트, 래퍼 드레이크, 아이스 스파이스, 미디어 스타 킴 카다시안, 억만장자 일론 머스크, 심지어 고인이 된 엘리자베스 2세 여왕까지 포함됩니다.

테일러 스위프트의 이미지를 딥페이크로 재현해 소셜 미디어에서 수학적 분석을 시도했다.

유튜브 스크린샷

이에 따라 일부 TikTok 계정에서는 AI(인공지능)와 딥페이크 도구를 사용하여 유명인이 "온라인에 접속"하여 학생들의 수학, 물리학, 공학 등에 대한 지식을 분석하는 영상을 제작하기도 했습니다. 이러한 영상은 금세 수천만 번의 조회수와 수많은 댓글을 받았습니다.

포르노나 사기에 쓰이는 가짜 이미지와 달리, 교육용 영상 아래에 콘텐츠 제작자는 항상 등장하는 캐릭터가 AI가 만든 것이라는 점을 명시하고, 동시에 관련 면책 조항을 명시합니다.

"이 영상은 드레이크의 실제 목소리나 영상이 아닙니다. 모든 이미지와 음성은 시청자들이 수학, 물리, 공학에 대해 배우는 데 도움을 주기 위해 컴퓨터로 생성되었습니다."라고 한 영상의 캡션에 명확하게 적혀 있습니다.

이러한 조치는 대다수 시청자의 지지를 받는데, 이들은 문제를 파악하는 데 몇 분만 걸리면 지식을 습득하기 쉽고 내용이 간결하다고 믿기 때문입니다. 일반적으로 강사가 전달하는 데 1~2회의 수업 시간이 걸립니다.

하지만 TikTok이나 다른 플랫폼 등 소셜 네트워크에서 유명인의 이미지를 이용해 "가르치는" 것 역시 우려를 불러일으킵니다. 심리학자들은 영상에 제시된 지식이 정확하다는 보장은 없으며, 어린이가 인공 지능이 만든 캐릭터를 완전히 신뢰하거나 관계를 발전시킬 위험이 있다고 말합니다.

소스 링크: https://thanhnien.vn/su-dung-deepfake-de-tao-video-nguoi-noi-tieng-tren-tiktok-185240408095703642.htm