Laut TechSpot hat ByteDance – der chinesische Technologiekonzern hinter TikTok – gerade OmniHuman-1 angekündigt – ein Deepfake-System, das menschliche Bilder unglaublich realistisch nachbilden kann. Mit OmniHuman-1 erstellte Videos können den durchschnittlichen Zuschauer täuschen, indem sie die Grenze zwischen echt und gefälscht in digitalen Inhalten verwischen.
In vielen der von OmniHuman-1 erstellten Videos sind Albert Einstein, Jensen Huang und viele andere zu sehen, was zeigt, wie unglaublich realistisch Deepfakes sein können.
FOTO: OMNIHUMAN-1 BILDSCHIRMFOTO
Im Gegensatz zu früheren Deepfake-Modellen benötigt OmniHuman-1 nur ein Foto und einen Audioclip, um ein vollständiges Video zu erstellen. Benutzer können das Seitenverhältnis und die Körperzusammensetzung anpassen oder sogar Bewegungen in vorhandenen Videos bearbeiten. Diese KI (künstliche Intelligenz) kann Handbewegungen und Gesten hochpräzise verändern, wodurch das Produkt natürlicher aussieht. Allerdings sind einige Details noch nicht perfekt, wie etwa die unnatürliche Pose beim Halten eines Weinglases oder die seltsam verdrehte Hand in einem Video, das Albert Einsteins Vorlesung simuliert.
Das Modell wurde anhand von 18.700 Stunden Videomaterial trainiert. Dabei wurde ein „Omni-Conditions“-Ansatz verwendet, um aus einer Vielzahl von Datenquellen zu lernen, darunter Text, Audio und Körperbewegungen.
Trotz des technischen Fortschritts birgt die Deepfake-Technologie auch ernste Risiken. In den letzten Jahren wurden Deepfakes missbraucht, um Informationen zu manipulieren, Finanzbetrug zu begehen und den Ruf von Personen anzugreifen. Bei der Wahl 2024 wurden viele Deepfake-Videos verwendet, um die Wähler in die Irre zu führen. Im vergangenen Jahr wurden durch Finanzbetrug mit Deepfakes Milliarden von Dollar gestohlen. In einem Fall gab sich ein Betrüger beispielsweise als Schauspieler Brad Pitt aus, um eine Frau dazu zu bringen, 850.000 Dollar zu überweisen.
Viele KI-Ethikexperten sind über diese Risiken besorgt und fordern daher Vorschriften zur Kontrolle von Deepfakes. Mehrere US-Bundesstaaten haben Gesetze gegen schädliche Deepfakes erlassen, doch ein umfassender bundesweiter Rechtsrahmen fehlt noch immer. Kalifornien hat einen Gesetzesentwurf vorgeschlagen, der es Gerichten ermöglichen würde, die Entfernung von Deepfakes zu erzwingen und diejenigen zu bestrafen, die sie verbreiten. Der Gesetzgebungsprozess ist jedoch mit zahlreichen Hindernissen konfrontiert.
ByteDance hat derzeit keine Pläne zur Veröffentlichung von OmniHuman-1 angekündigt, es wurde jedoch ein Forschungspapier zu diesem Modell veröffentlicht, das das Potenzial und die Risiken der wachsenden Deepfake-Technologie aufzeigt.
[Anzeige_2]
Quelle: https://thanhnien.vn/cong-cu-ai-deepfake-moi-cua-bytedance-gay-nhieu-lo-ngai-18525020521585617.htm
Kommentar (0)