Viele Herausforderungen der KI im neuen Zeitalter

Da KI immer zugänglicher wird und immer mehr Einzelpersonen und Unternehmen sie über gängige Tools verwenden, können Hacker auch Angriffe automatisieren, Vorgänge beschleunigen und komplexere Kampagnen durchführen, um ihre illegalen Ziele zu erreichen.

Kaspersky deckt Arten von Cyberangriffen mithilfe von KI auf

Dies sind die Arten von Angriffen, die Kaspersky beobachtet hat: ChatGPT kann verwendet werden, um Schadsoftware zu entwickeln und automatisch Angriffe auf mehrere Opfer auszuführen; KI-Programme infiltrieren die Daten der Benutzer auf Smartphones und durch die Analyse vertraulicher Daten können Bösewichte Nachrichten, Passwörter und Bankcodes der Opfer vollständig „lesen“. Schwarmintelligenzalgorithmen helfen automatisierten Computernetzwerken (Bonets) dabei, bösartige Netzwerke wiederherzustellen, die durch Sicherheitslösungen eliminiert wurden.

Die Untersuchungen von Kaspersky zum Einsatz von KI zum Knacken von Passwörtern zeigen, dass die meisten Passwörter mit Hash-Algorithmen wie MD5 und SHA verschlüsselt sind. Demnach ist nur ein einfacher Vorgang nötig, um ein Passwort in eine Zeile verschlüsselten Text umzuwandeln. Den gesamten Vorgang jedoch umzukehren, ist eine große Herausforderung.

Mithilfe von KI können böswillige Akteure betrügerische Inhalte wie Text, Bilder, Audio- und Videodateien ausnutzen, um Social-Engineering-Angriffe zu starten. Große Sprachmodelle wie ChatGPT-4o werden zum Generieren hochentwickelter Skripte und Nachrichten verwendet. Durch die Überwindung von Sprachbarrieren kann KI eine authentische E-Mail schreiben, die ausschließlich auf Informationen aus sozialen Netzwerken basiert. KI kann sogar den Schreibstil des Opfers nachahmen. Dies macht es noch schwieriger, betrügerisches Verhalten zu erkennen.

Gleichzeitig stellt Deepfake ein „Problem“ in der Cybersicherheit dar, obwohl es bislang als Produkt wissenschaftlicher Forschung galt. Die häufigste Methode besteht darin, sich als Prominente auszugeben, um sich finanziell zu bereichern. Betrüger nutzen Deepfake jedoch auch, um Konten zu stehlen oder falsche Anrufe bei Freunden und Verwandten der Opfer zu tätigen, um sich Eigentum anzueignen.

Außer dass sie KI-Technologie für illegale Aktivitäten ausnutzen, können Bösewichte auch KI-Algorithmen angreifen. Wie etwa „Prompt Injection“-Angriffe durch die Eingabe bösartiger Befehle in große Sprachmodelle, sogar entgegen zuvor eingeschränkter Regeln; Bei feindlichen Angriffen werden Bildern oder Audiodateien versteckte Informationsfelder hinzugefügt, um die Fähigkeit des maschinellen Lernsystems zur Klassifizierung von Bildern zu beeinflussen.

KI wird nach und nach in jeden Aspekt des menschlichen Lebens integriert, von Apple Intelligence über Google Gemini bis hin zu Microsoft Copilot. Daher sollte die Behebung von KI-Schwachstellen höchste Priorität haben. Kaspersky nutzt bereits seit vielen Jahren KI-Technologie zum Schutz von Kunden und Partnern, sucht kontinuierlich nach Schwachstellen in KI-Systemen, um die Systemausfallsicherheit zu erhöhen, und erforscht aktiv Cyberangriffstechniken, um zuverlässige Schutzlösungen gegen KI-Angriffe bereitzustellen.

Kim Thanh

Quelle: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html