Deepfake zum Gaza-Krieg weckt Bedenken hinsichtlich der KI

[Anzeige_1]

Diese Bilder wurden auf Online-Plattformen millionenfach angesehen und sind mithilfe künstlicher Intelligenz erstellte Deepfakes. Wenn Sie genau hinsehen, können Sie verräterische Hinweise erkennen, beispielsweise seltsam gekrümmte Finger oder Augen, die in einem unnatürlichen Licht funkeln.

Die Empörung, die diese Deepfake-Bilder ausgelöst haben, ist jedoch real.

Fotos aus dem Krieg zwischen Israel und der Hamas veranschaulichen auf anschauliche und schmerzhafte Weise die Gefahren der KI als Propagandainstrument zur Erzeugung lebensechter Bilder.

Seit Beginn der Kämpfe im vergangenen Monat werden in den sozialen Medien digital manipulierte Fotos verwendet, um falsche Angaben über die Verantwortung für Opfer zu machen oder die Menschen über Gräueltaten zu täuschen, die nie stattgefunden haben.

Deepfake-Bilder des Gaza-Krieges geben Anlass zu neuen Bedenken Bild 1 — Ein Palästinenser sammelt Habseligkeiten aus den Trümmern im Gazastreifen auf. AP Foto

Technologische Fortschritte finden immer häufiger und mit wenig Kontrolle statt. Dies verdeutlicht das Risiko, dass KI zu einer weiteren Form von Waffe wird, und bietet einen ersten Einblick in die Auswirkungen künftiger Konflikte, Wahlen und anderer wichtiger Ereignisse.

„Die Dinge werden noch viel schlimmer werden, bevor sie besser werden“, sagte Jean-Claude Goldenstein, CEO von CREOpoint, einem in San Francisco und Paris ansässigen Technologieunternehmen, das KI nutzt, um die Gültigkeit von Online-Beschwerden zu bewerten.

Sein Unternehmen hat eine Datenbank mit den viralsten Deepfake-Bildern aus Gaza zusammengestellt. „Bilder, Videos und Audio: Mit kreativer KI wird dies ein Fortschritt sein, wie Sie ihn noch nie zuvor gesehen haben“, sagte er.

Imran Ahmed, CEO des Center for Countering Digital Hate, einer gemeinnützigen Organisation, die Desinformation aus dem Krieg verfolgt, sagte, die Propagandisten, die solche Bilder erstellen, seien geschickt darin, die tiefsten Impulse und Ängste der Menschen anzusprechen.

Je erschreckender das Bild ist, desto wahrscheinlicher ist es, dass sich die Benutzer daran erinnern und es teilen, wodurch sie unbeabsichtigt weitere Fehlinformationen verbreiten. Ähnliche, durch KI generierte falsche Inhalte verbreiteten sich nach dem Russland-Ukraine-Konflikt viral.

Jeder neue Konflikt oder jede Wahlsaison bietet Gelegenheit zur Desinformation. Viele KI-Experten und Politikwissenschaftler warnen daher vor Risiken im nächsten Jahr, wenn in mehreren Ländern, darunter den USA, Indien, Pakistan, der Ukraine, Indonesien und Mexiko, wichtige Wahlen stattfinden.

Das Risiko, dass KI und soziale Medien dazu genutzt werden könnten, Lügen gegenüber amerikanischen Wählern zu verbreiten, hat Abgeordnete beider Parteien in Washington alarmiert. Bei einer kürzlichen Anhörung zu den Gefahren der Deepfake-Technologie sagte der US-Abgeordnete Gerry Connolly, ein Demokrat aus Virginia, die USA müssten in die Entwicklung von KI-Tools investieren, die anderen KIs entgegenwirken sollen.

Um wirksam auf die politischen und sozialen Herausforderungen zu reagieren, die durch von KI generierte Fehlinformationen entstehen, seien sowohl bessere Technologien als auch bessere Regulierungen erforderlich, sagte David Doermann, Professor an der University of Buffalo.

Mai Anh (laut AP)

[Anzeige_2]
Quelle