TechSpot 에 따르면, TikTok을 만든 중국 기술 기업 ByteDance가 방금 OmniHuman-1을 발표했습니다. 이는 놀라울 정도로 사실적으로 인간 이미지를 재현할 수 있는 딥페이크 시스템입니다. OmniHuman-1이 제작한 비디오는 일반 시청자를 속여 디지털 콘텐츠의 진짜와 가짜의 경계를 모호하게 만듭니다.
OmniHuman-1이 제작한 영상에는 알버트 아인슈타인, 젠슨 황 등이 많이 등장하며, 딥페이크가 얼마나 놀라울 정도로 사실적인지를 보여줍니다.
사진: OMNIHUMAN-1 스크린샷
이전의 딥페이크 모델과는 달리 OmniHuman-1은 사진과 오디오 클립만 있으면 완전한 비디오를 만들 수 있습니다. 사용자는 기존 비디오에서 종횡비, 신체 구성을 조정하거나 심지어 움직임을 편집할 수도 있습니다. 이 AI(인공지능)는 손의 움직임과 제스처를 매우 정밀하게 바꿔 제품이 더욱 자연스럽게 보이도록 할 수 있습니다. 하지만 와인잔을 든 부자연스러운 자세나 알베르트 아인슈타인의 강의를 시뮬레이션한 영상 속 이상하게 꼬인 손 등 일부 세부 사항은 아직 완벽하지 않습니다.
이 모델은 텍스트, 오디오, 신체 움직임을 포함한 다양한 데이터 소스로부터 학습하기 위해 "전방위 조건" 접근 방식을 사용하여 18,700시간 분량의 비디오로 훈련을 받았습니다.
기술의 발전에도 불구하고, 딥페이크 기술은 심각한 위험을 초래하고 있습니다. 최근 몇 년 동안 딥페이크는 정보 조작, 금융 사기, 개인 명예 훼손 등의 목적으로 악용되고 있습니다. 2024년 선거에서는 유권자들을 오도하기 위해 많은 딥페이크 영상이 사용되었습니다. 작년에는 딥페이크와 관련된 금융 사기로 인해 수십억 달러의 피해가 발생했는데, 그 중 한 사건은 사기꾼이 배우 브래드 피트를 사칭하여 한 여성을 속여 85만 달러를 송금한 사건이었습니다.
이러한 위험에 대해 우려하는 많은 AI 윤리 전문가들은 딥페이크를 통제하기 위한 규정을 요구해 왔습니다. 미국의 몇몇 주에서는 유해한 딥페이크를 금지하는 법률을 제정했지만, 아직 포괄적인 연방 법률 프레임워크는 없습니다. 캘리포니아주는 법원이 딥페이크 영상을 강제로 삭제하고 이를 배포하는 사람을 처벌할 수 있도록 하는 법안을 제안했지만, 입법 과정은 많은 장애물에 직면해 있습니다.
현재 ByteDance에서는 OmniHuman-1을 출시할 계획을 발표하지 않았지만, 이 모델에 대한 연구 논문이 발표되어 딥페이크 기술이 성장함에 따라 이 기술의 잠재력과 위험성이 드러났습니다.
[광고2]
출처: https://thanhnien.vn/cong-cu-ai-deepfake-moi-cua-bytedance-gay-nhieu-lo-ngai-18525020521585617.htm
Comment (0)