In den letzten Monaten haben Kindersicherheitsexperten und Forscher vor dem Potenzial kreativer KI gewarnt, den Online-Missbrauch zu verschlimmern.
Meta-CEO Mark Zuckerberg spricht am 31. Januar 2024 bei einer Anhörung des Justizausschusses des US-Senats vor einer Menge von Teilnehmern, die KI-generierte Bilder bei sich tragen. Foto: Reuters
Das NCMEC hat die Gesamtzahl der Meldungen über Kindesmissbrauchsinhalte aus allen Quellen, die es im Jahr 2023 erhalten hat, noch nicht veröffentlicht. Im Jahr 2022 gingen jedoch Meldungen über etwa 88,3 Millionen Dateien zu diesem Problem ein.
„Wir erhalten Berichte von innovativen KI-Unternehmen selbst, (Online-)Plattformen und Mitgliedern der Öffentlichkeit“, sagte John Shehan, Vizepräsident des NCMEC.
Die CEOs von Meta, X, TikTok, Snap und Discord sagten am Mittwoch (31. Januar) bei einer Anhörung des US-Senats zur Kindersicherheit auf Online-Plattformen aus. US-Gesetzgeber haben Social-Media-Unternehmen zu ihren Bemühungen befragt, Kinder vor „Online-Raubtieren“ zu schützen.
Generative KI könnte von Kriminellen eingesetzt werden, um echten Kindern wiederholt Schaden zuzufügen, indem sie gefälschte Bilder von ihnen erstellen, erklärten Forscher des Stanford Internet Observatory im vergangenen Juni in einem Bericht.
Fallon McNulty, Leiter der CyberTipline des NCMEC, die Meldungen über Online-Ausbeutung von Kindern entgegennimmt, sagte, KI-generierte Inhalte würden „immer fotorealistischer“, was es schwieriger mache, festzustellen, ob es sich bei den Opfern um echte Menschen handele.
OpenAI, das Unternehmen, das ChatGPT entwickelt hat, hat einen Prozess zur Übermittlung von Berichten an NCMEC eingerichtet und die Organisation befindet sich in Gesprächen mit anderen KI-Unternehmen, sagte McNulty.
Hoang Hai (laut Reuters, FT)
[Anzeige_2]
Quelle
Kommentar (0)