일론 머스크, 해리스 여사의 목소리를 흉내낸 딥페이크 영상 공유

이 영상은 기술계 억만장자 엘론 머스크가 7월 26일 저녁 소셜 네트워크 X에 공유하면서 주목을 받았는데, 당시 본래 목적이 조롱이었다는 사실은 밝히지 않았다.

해리스 여사의 여러 모습을 담은 영상은 지난주 그녀가 캠페인을 시작하면서 공개되었습니다. 하지만 영상 속 목소리는 그녀의 목소리와 흡사한 다른 목소리로 바뀌어 있습니다.

영상 속 목소리는 "저, 카말라 해리스가 민주당 대선 후보가 된 이유는 조 바이든이 마침내 토론에서 혼란을 드러냈기 때문입니다."라고 말합니다. 이 영상에서는 해리스 여사가 여성이자 유색인종이기 때문에 민주당 후보로 지명되었으며, 그녀는 "국가를 운영하는 것에 대해 아무것도 모른다"고 주장합니다.

테슬라와 SpaceX CEO 일론 머스크. 사진: AP

해리스의 선거 캠프 대변인인 미아 에렌버그는 "미국 국민은 해리스 부통령이 제공하는 진정한 자유, 기회, 안보를 원한다고 믿습니다. 일론 머스크의 가짜, 조작된 거짓말은 원하지 않습니다."라고 말했습니다.

위의 영상은 AI 기술이 어떻게 정치를 조롱하고 오도하는 데 사용되고 있는지를 보여주는 예입니다. 특히 미국 대선이 다가옴에 따라 더욱 그렇습니다. 이는 고품질 AI 도구에 대한 접근성이 높아졌지만 이를 관리하는 방법에 있어서는 여전히 상당한 차이가 있음을 보여줍니다.

AI가 생성한 미디어를 전문으로 하는 두 명의 전문가가 가짜 영상의 오디오를 검토한 결과, 콘텐츠의 상당 부분이 AI 기술을 사용하여 생성되었다는 것을 확인했습니다.

캘리포니아 대학교 버클리 캠퍼스의 디지털 포렌식 전문가인 하니 파리드는 이 영상이 생성적 AI와 딥페이크의 힘을 보여준다고 말했습니다.

"AI가 생성한 목소리는 매우 좋습니다. 대부분 사람들은 그것이 해리스 부통령의 목소리라고 믿지 않겠지만, 영상은 여전히 ​​매우 설득력이 있습니다. 연설이 그녀와 똑같기 때문입니다."라고 그는 말했습니다.

음성 인식 도구와 기타 AI 도구를 만드는 AI 회사는 자사 서비스가 대중에게 해를 끼칠 수 있는 방식으로 사용되지 않도록 더욱 노력해야 한다고 그는 말했다.

옹호 단체인 퍼블릭 시티즌(Public Citizen)의 공동 의장인 롭 와이스먼(Rob Weissman)은 파리드의 의견에 동의하지 않으며, 많은 사람이 이 영상을 보고 오도될 것이라고 생각한다고 말했습니다.

호아이 푸옹 (AP에 따르면)

출처: https://www.congluan.vn/elon-musk-chia-se-video-deepfake-gia-giong-ba-harris-post305360.html