Cyberbetrüger „tricksen“ KI aus und schaffen Szenarien zur psychologischen Manipulation

Online-Betrüger geben sich nicht nur als Verwandte, Polizisten usw. aus, sondern manipulieren auch Tools der künstlichen Intelligenz (KI), um Hunderte von Betrugsszenarien zu erstellen und Benutzer anzugreifen.

Der Cybersicherheitsexperte Ngo Minh Hieu sagte, Betrüger manipulieren KI und schaffen so innerhalb von Minuten Hunderte von Betrugsszenarien – Foto: VU TUAN

Laut dem Sozialunternehmen Chongluadao.vn haben Betrüger KI verwendet, um Schadsoftware zu generieren, Betrugsskripte zu schreiben und durch Deepfake Töne und Bilder zu verändern.

Laut dem Cybersicherheitsexperten Ngo Minh Hieu (Hieu PC), Vertreter von Chongluadao.vn, besteht ein gefährlicher Trick darin, „KI auszutricksen“, um Malware zu laden. „Sie erstellen gefälschte Audio- oder Bilddateien und betten Malware ein, die die KI nicht erkennt. Wenn das KI-System sie verarbeitet, wird die Malware aktiviert und übernimmt die Kontrolle“, sagte Hieu PC.

Beispielsweise nutzte er KI, um über FaceTime Stimmen und Bilder von Verwandten zu fälschen und Menschen so dazu zu bringen, Geld zu überweisen.

In letzter Zeit hat die Häufigkeit von Betrugsfällen aufgrund der Unterstützung durch KI-Tools erheblich zugenommen. Durch die Kontrolle von KI und den Einsatz von KI zum Betrügen überwinden Betrüger alle sprachlichen und geografischen Barrieren. Produktfälschungen werden immer raffinierter und gefährlicher.

Der Experte Hieu PC analysierte, dass Cyberkriminelle immer über ein Skript verfügen, unabhängig davon, welches Tool zum Begehen von Betrug verwendet wird. Dies sind die Informationen, die sein Team beim Empfang und der Bearbeitung von Hunderten von Online-Betrugsmeldungen gesammelt hat.

Zu den häufigsten Betrugsformen zählen die Nachahmung von Verwandten oder die Nachahmung von Mitarbeitern staatlicher Behörden, der Polizei oder von Elektrizitätsunternehmen. Anspruchsvoller sind Szenarien, in denen Opfer in Investitionsfallen, durch die Ausführung von Aufgaben oder durch Dating gelockt werden.

Cybersicherheitsexperten raten, zur Vermeidung von Bildmanipulationen zunächst keine persönlichen Bilder öffentlich in sozialen Netzwerken zu teilen. Anrufe und Nachrichten mit der Aufforderung, Geld zu überweisen, auf Links zu klicken oder OTP-Codes anzugeben, sind zu 99 % Betrug.

Hackertricks zum Angriff auf KI

Laut Cybersicherheitsexperten handelt es sich bei „Adversarial Attack“ um einen Trick, den Hacker verwenden, um KI zu „überlisten“. Dabei handelt es sich um eine Form falscher Informationen, die von der KI missverstanden oder ausgenutzt werden können. In der Folge lädt die KI Schadsoftware in das System oder führt Befehle aus, die der Betrüger gibt.

Betrüger nutzen diese Schwäche aus, um KI zu umgehen, insbesondere KI-Schutzsysteme (wie Antivirensoftware, Spracherkennung oder die Überprüfung von Banktransaktionen).

Quelle: https://tuoitre.vn/lua-dao-mang-lua-ca-ai-tao-kich-ban-thao-tung-tam-ly-20250228163856719.htm