Laut FBI wird KI für „Erpressung“ und Belästigung eingesetzt

[Anzeige_1]

In einer diese Woche verbreiteten Warnung teilte das FBI mit, dass es in letzter Zeit einen Anstieg der Zahl von Erpressungsopfern beobachtet habe, die angaben, mithilfe künstlicher Intelligenz an sich normale Bilder aus Online-Posts, persönlichen Nachrichten oder Videochats in gefälschte Versionen umgewandelt zu haben.

FBI sagt, wer zum Sammeln von Geld und zum Drehen von Bild 1 verwendet wird — Die spanische Polizei hat einmal einen Programmierer verhaftet, der mithilfe künstlicher Intelligenz gefälschte Bilder von Kinderpornografie erstellt hat. Foto: Daily Mail

„Die Bilder werden dann von böswilligen Akteuren direkt an die Opfer gesendet, um sie zu erpressen oder sexuell zu belästigen. Nach der Verbreitung stehen die Opfer möglicherweise vor erheblichen Herausforderungen, die weitere Verbreitung der manipulierten Inhalte zu verhindern und sie aus dem Internet zu entfernen“, heißt es in der Warnung.

Das Amt sagte, die Bilder wirkten „lebensecht“, merkte jedoch an, dass in einigen Fällen auch Kinder betroffen gewesen seien.

Im Februar verhaftete die Polizei in Spanien einen Computerprogrammierer, der mithilfe künstlicher Intelligenz grausame Bilder von Kindesmissbrauch erstellt hatte. Es handelte sich vermutlich um eine der ersten Verhaftungen dieser Art.

Das FBI ging nicht näher auf die KI-Programme ein, die zur Erstellung sexueller Bilder verwendet wurden, merkte jedoch an, dass der technologische Fortschritt „die Qualität, Anpassungsfähigkeit und Zugänglichkeit der KI-gestützten Inhaltserstellung kontinuierlich verbessert“.

Die Bearbeitung herkömmlicher Fotos zur Erstellung erotischer Bilder ist fast so alt wie die Fotografie selbst, doch die jüngste explosionsartige Verbreitung von Open-Source-KI-Tools hat diesen Prozess einfacher denn je gemacht.

Gefälschte Fotos oder Videos sind oft nicht von echten Versionen zu unterscheiden. Tatsächlich sind in den letzten Jahren mehrere Websites und soziale Netzwerke entstanden, die sich der Erstellung und dem Austausch KI-gestützter sexueller Bilder widmen.

Dies gilt als eines von mehreren Risiken, die künstliche Intelligenz für die Gesellschaft darstellen kann, wie Experten in jüngster Zeit besorgt und gewarnt haben.

Hoang Anh (laut Daily Mail, Reuters)

[Anzeige_2]
Quelle