Hüten Sie sich vor Bösewichten, die KI verwenden, um die Gesichter von Opfern zu transplantieren, um sie zu bedrohen und zu erpressen

Im Gegensatz zur vorherigen Zeit, als der Zugriff auf künstliche Tools zum Erstellen von Deepfake-Videos ziemlich eingeschränkt war, wurden viele KI-Tools wie Grok, ChatGPT, Meta AI, Gemeni und DeepSeek weithin veröffentlicht und ermöglichen die kostenlose Nutzung grundlegender Funktionen, einschließlich der Bilderstellung. Benutzer können die gewünschte Form erstellen oder sogar zuschneiden und bearbeiten, ohne spezielle Verarbeitungstechniken verstehen zu müssen. Dies hat zu einer verstärkten Nutzung von KI zur Erstellung von Gesichtern für Zwecke geführt, die von der Unterhaltung bis hin zu Bedrohungen im Internet reichen.

Frau YN (Bezirk 1, Ho-Chi-Minh-Stadt) sagte, sie sei einmal Opfer einer KI-basierten Bildmanipulation geworden, um Menschen zu bedrohen, und man habe sie aufgefordert, eine hohe Geldsumme zu zahlen, wenn sie „sensible“ Daten abrufen wolle, obwohl diese alle mithilfe von KI-Tools erstellt worden seien. Insbesondere wurden ihre persönlichen Bilder von Kriminellen gesammelt und ihre Gesichter in schädliche Inhalte bearbeitet, vertrauliche Chats erstellt und dann Frau YN aufgespürt, um sie zu erpressen.

Kriminelle nutzen KI, um Opfer zu bearbeiten, zu beschneiden und zu erpressen

„Sie zeigten mir Screenshots der gefälschten Chats, Bilder und Videos, die sie erstellt hatten, und verlangten 100 Millionen VND für die Löschung der Inhalte. Ich muss zugeben, dass die zusammengesetzten Bilder weder echt noch gefälscht zu erkennen sind“, teilte das Opfer mit und fügte hinzu, dass sie das oben genannte Verhalten den Behörden gemeldet habe.

Der Fall von Frau YN ist nur einer von vielen jüngsten Vorfällen, bei denen KI und Bildbearbeitungstools für böswillige Zwecke missbraucht werden. Derzeit sind die Nutzer sozialer Netzwerke in Vietnam noch sehr unbekümmert, wenn es darum geht, persönliche Bilder sowie Bilder von Freunden und Verwandten online und öffentlich zu teilen, obwohl Experten auf dem Gebiet der Informationssicherheit diesbezüglich zahlreiche Warnungen aussprechen.

Vor kurzem hat das Ministerium für öffentliche Sicherheit eine Warnung an Telefonnutzer verschickt, in der es um das Aufkommen von Kriminellen geht, die öffentlich im Internet verfügbare Bilder und Videos von Personen ausnutzen, diese dann bearbeiten, zuschneiden und kombinieren, um sensible Inhalte zu erstellen, mit denen sie drohen und erpressen können. „Den Menschen wird geraten, beim Empfang von Nachrichten oder Anrufen mit den oben genannten Inhalten wachsam zu sein und kein Geld zu überweisen, wenn sie bedroht werden. Wenn sie Anzeichen von Betrug oder Erpressung feststellen, sollten sie sich umgehend bei der nächstgelegenen Polizeidienststelle melden und dies über die VNeID-Anwendung melden“, heißt es in der Mitteilung.

Neben Erpressungszielen können Kriminelle auch zahlreiche öffentliche persönliche Bilder und Videos des Opfers verwenden, um gefälschte Inhalte zu erstellen, den Ruf des Opfers im Arbeitsumfeld zu schädigen, persönliche Rache zu nehmen und dem Geist und der Ehre zu schaden. Bemerkenswert ist, dass diese gefälschten Dokumente immer raffinierter werden und sowohl für den Durchschnittsbürger als auch für diejenigen, die sich für den Bereich der künstlichen Intelligenz interessieren, immer schwieriger zu erkennen sind.

Eine Ende letzten Jahres von Tidio – einem polnischen Unternehmen, das auf die Entwicklung von KI-Chatbots zur Verkaufsunterstützung spezialisiert ist – durchgeführte Studie zeigte, dass die Mehrheit der Internetnutzer zunehmend Schwierigkeiten hat, zwischen von KI erstellten Bildern zu unterscheiden. Das Unternehmen behauptet, dass bis zu 87 % der Teilnehmer KI-Fotos mit Fotos von echten Menschen verwechselt hätten. Darüber hinaus äußerten 62 % der Befragten Interesse an KI und maschinellem Lernen, doch die Hälfte dieser Gruppe konnte die von künstlicher Intelligenz generierten Bilder nicht richtig identifizieren.

Derzeit gibt es keine spezifischen Vorschriften für den Einsatz von KI bei Cyberkriminalität. Die Verwendung von Bildern anderer Personen zum Drohen, Erpressen oder Verbreiten falscher Informationen kann jedoch dennoch im Rahmen der Bestimmungen geahndet werden, die sich auf Straftaten wie die Demütigung anderer, die Erpressung von Eigentum oder die Verbreitung obszöner Kulturprodukte beziehen.

Angesichts dieser Situation empfehlen Experten den Benutzern, beim Teilen persönlicher Bilder in sozialen Netzwerken vorsichtig zu sein und Sicherheitstools zum Schutz ihrer Privatsphäre zu verwenden.

Quelle: https://thanhnien.vn/canh-giac-ke-xau-loi-dung-ai-ghep-mat-nan-nhan-de-de-doa-tong-tien-185241107153341681.htm