Südkorea investiert Millionen, um Deepfakes zu verhindern

Die Behörden deckten vor Kurzem ein großes Netzwerk von Telegram-Chatrooms auf, die oft in Schulen und Universitäten eingerichtet wurden und in denen Benutzer mithilfe künstlicher Intelligenz erstellte Deepfake-Pornovideos teilten, die sich gegen Studentinnen und Mitarbeiterinnen richteten.

Der Vorfall löste in der Öffentlichkeit Empörung aus und veranlasste den südkoreanischen Präsidenten, harte Maßnahmen anzukündigen.

Aktivisten während eines Protests gegen Deepfake-Pornografie in Seoul am 30. August 2024. Foto: AFP/Anthony Wallace

Die nationale Polizeibehörde von Seoul gab bekannt, dass sie bis 2027 jährlich 2,7 Milliarden Won (etwa 2 Millionen US-Dollar) für die Entwicklung einer Deep-Learning-Technologie zur Erkennung gefälschter Inhalte wie Deepfakes und gefälschter Stimmen bereitgestellt hat. Sie werden außerdem Hunderttausende von Dollar ausgeben, um vorhandene Software zu aktualisieren, damit diese Deepfake-Videos und andere KI-generierte Videos erkennen kann.

Südkorea kämpft seit langem mit sexueller Gewalt im Internet, doch die Zahl der Fälle hat sich in diesem Jahr im Vergleich zu 2018 verelffacht. Die Strafverfolgungsrate ist jedoch nach wie vor sehr niedrig. Von 2021 bis Juli dieses Jahres wurden 793 Deepfake-bezogene Straftaten gemeldet, aber nur 16 Personen wurden festgenommen und strafrechtlich verfolgt.

Präsident Yoon Suk Yeol sagte, das Deepfake-Problem habe vor allem bei Frauen große Besorgnis ausgelöst und sei ein schweres Verbrechen, das den sozialen Frieden gefährde. Er hat die zuständigen Ministerien aufgefordert, drastische Maßnahmen zu ergreifen.

Ende August veröffentlichten 84 Frauenorganisationen eine gemeinsame Erklärung, in der sie argumentierten, dass die eigentliche Ursache der Deepfake-Krise „Geschlechterdiskriminierung“ sei und dass die Lösung des Problems in der Gleichstellung der Geschlechter liege.

Hong Hanh (laut Reuters, CNA)

Quelle: https://www.congluan.vn/han-quoc-dau-tu-hang-trieu-do-la-de-ngan-chan-nan-deepfake-khieu-dam-tran-lan-post313138.html