Beheben von KI-basierten Produktfehlern mithilfe von KI-Tools

Fake News werden durch KI-Manipulation immer raffinierter

Bei einem kürzlich in Hanoi abgehaltenen Treffen zwischen der vietnamesischen und der thailändischen Journalistenvereinigung sprachen die Vorsitzenden der beiden Verbände vor allem über das Problem der „Fake News“ und erklärten, dass es sich dabei nicht mehr um ein nationales Problem handele, sondern um ein großes, unvorhersehbares Problem in der Region und der Welt.

Einer Studie von Google DeepMind zufolge kommt die Erstellung von Bildern, Videos und Audiodateien, die Menschen imitieren, fast doppelt so häufig vor wie die Erstellung von Fehlinformationen mithilfe von Tools wie KI-Chatbots.

In den letzten Monaten sind Deepfakes des britischen Schatzkanzlers Rishi Sunak und anderer globaler Führungspersönlichkeiten auf TikTok, X und Instagram aufgetaucht. Es gibt Bedenken, dass die Nutzer derartige Inhalte trotz der Bemühungen der sozialen Medien, sie zu kennzeichnen oder zu entfernen, möglicherweise nicht als Fälschung erkennen und dass ihre Verbreitung Einfluss auf die Wählerschaft haben könnte.

Vor den Parlamentswahlen sind auf TikTok und Instagram Fakes des britischen Premierministers Rishi Sunak aufgetaucht. (Foto: AFP)

Ths. bewertet die Auswirkungen von Fake News im Technologiezeitalter. Luong Dong Son, Dozent am Institut für Journalismus und Kommunikation der Akademie für Journalismus und Propaganda, kommentierte, dass das Produkt der Kombination aus KI und Fehlinformationen, auch bekannt als surreale Fake News, die öffentliche Wahrnehmung von Ereignissen und gesellschaftlichen Themen verzerren und dadurch die Art und Weise beeinflussen könne, wie die Öffentlichkeit die Situation beurteilt und Entscheidungen trifft. Dies kann schwerwiegende Folgen haben, von kleinen persönlichen Entscheidungen bis hin zu wichtigen Entscheidungen, die Gemeinschaften und Nationen betreffen.

Surreale Fake News können als Mittel zur Manipulation der öffentlichen Meinung, zur Anstiftung zu Gewalt, zur Spaltung und zur Untergrabung der sozialen Stabilität eingesetzt werden. Auf dem politischen Parkett können surreale Fake News das Vertrauen in demokratische Institutionen untergraben, Wahlergebnisse beeinflussen und sogar Konflikte schüren.

Zu den Herausforderungen für Journalisten und Presseorganisationen schreibt Ths. Die Raffinesse hyperrealistischer Fake News, insbesondere Deepfakes, mache es selbst für erfahrene Journalisten zunehmend schwieriger, zwischen echten und gefälschten Nachrichten zu unterscheiden, sagte Luong Dong Son.

„Im Zeitalter der Informationsflut fordert die Öffentlichkeit zunehmend von Journalisten und Nachrichtenorganisationen, schnell und präzise zu informieren. Dieser Druck kann jedoch dazu führen, dass Journalisten Informationen vorschnell veröffentlichen, ohne sie sorgfältig zu prüfen. Dadurch entsteht die Möglichkeit, surreale Fake News zu verbreiten. Darüber hinaus sind Journalisten und Nachrichtenorganisationen rechtlichen und ethischen Risiken ausgesetzt, wenn sie bei der Prüfung und Veröffentlichung von Informationen nicht sorgfältig vorgehen“, sagte Herr Son.

Lassen Sie Informationen von KI überprüfen

Laut Ths. Luong Dong Son, um mit dieser Art von Fake News umzugehen, ist der Einsatz moderner technologischer Lösungen äußerst notwendig.

„Diese Lösungen konzentrieren sich nicht nur auf die Erkennung und Beseitigung von Fake News, sondern auch auf deren Verhinderung bereits in der frühen Produktionsphase“, sagte MSc. Dong Son.

Erstens ist laut Herrn Son eine der wichtigsten Technologien heutzutage der Einsatz künstlicher Intelligenzsysteme zur Erkennung surrealer Fake News. Moderne KI-Systeme sind in der Lage, Kontexte zu analysieren, Informationen aus mehreren Quellen zusammenzutragen und Anomalien im Informationsinhalt zu erkennen. Ein Paradebeispiel ist der Einsatz von KI zur Analyse von Videos und Bildern, um Anzeichen von Bearbeitung oder Deepfake-Produktion zu erkennen.

Darüber hinaus setzen Social-Media-Plattformen und Suchmaschinen aktiv Algorithmen des maschinellen Lernens ein, um Fake-News-Inhalte automatisch zu klassifizieren und herauszufiltern, bevor sie viral gehen. Diese Algorithmen sind darauf ausgelegt, ungewöhnliche Anzeichen in den Sharing-Mustern, der Viralität oder sogar im Ton der Posts zu erkennen und die Wahrscheinlichkeit einzuschätzen, dass es sich bei den Informationen um Fälschungen handelt.

Darüber hinaus ist auch die Verwendung der Blockchain-Technologie zur Verwaltung der Informationsherkunft eine mögliche Lösung. Blockchain hat das Potenzial, ein transparentes und unveränderliches Authentifizierungssystem zu schaffen, das dabei hilft, den Ursprung und die Geschichte aller Informationen zu verfolgen und so Genauigkeit und Zuverlässigkeit zu gewährleisten.

KI kann gefälschte Inhalte oder irreführende Informationen und Bilder erstellen, die schwer zu unterscheiden sind, was dem Ruf von Einzelpersonen und Organisationen großen Schaden zufügt und sogar nationalen und ethnischen Interessen schadet.

Stimme dem zu. Luong Dong Son, Herr Phan Van Tu – Leiter der Journalismusabteilung – Fakultät für Journalismus und Kommunikation, Universität für Sozial- und Geisteswissenschaften, HCMC. HCM betonte, dass wir neben der Bereitstellung von Fähigkeiten zur Nutzung der Stärken der KI für den Journalismus auch KI-Tools zur Überprüfung von Informationen einsetzen müssen.

Bei der Quellenüberprüfung, also der Beurteilung der Zuverlässigkeit einer Quelle, handelt es sich im Wesentlichen um eine wichtige Fähigkeit, die die Überprüfung der Informationsquelle, den Vergleich mit anderen Quellen und die Verwendung von Faktenprüfungstools zur Überprüfung der Zuverlässigkeit umfasst.

Interessanterweise gibt es mittlerweile viele KI-integrierte Tools, die Journalisten beim Verifizierungsprozess unterstützen, zusätzlich zu den traditionellen Tools, die Faktenprüfer unterstützen, wie etwa Google Image, Tineye Reverse Image Search, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...

Herr Phan Van Tu sagte, dass die Ausbildung der beruflichen Fähigkeiten von Journalisten in der gegenwärtigen Zeit einen Schwerpunkt auf die Bereitstellung von Kapazitäten zur Informationsüberprüfung gegen den Angriff von durch KI manipulierten Fake News legen müsse. „Der Einsatz von KI-Tools zur Behebung von KI-Fehlern ist der schnellste Weg, Journalisten und Presseagenturen dabei zu unterstützen, ihre Aufgaben gut zu erfüllen, und auch dazu beizutragen, die Qualität der Informationen zu verbessern und die Öffentlichkeit vor Fehlinformationen und negativen Auswirkungen der Medien zu schützen“, sagte Herr Tu.

Herr Tu wies jedoch auch darauf hin, dass die Fähigkeit von Journalisten, Informationen zu beurteilen, nicht allein auf Hilfsmitteln beruhen könne. Es sei gleich gesagt, dass KI zwar bei der Analyse von Nachrichteninhalten helfen kann, jedoch nicht alle Arten von Fake News und manipulierten Informationen erkennen kann. KI-Software kann immer noch durch die KI-Techniken getäuscht werden, die sie zur Erkennung verwendet.

„Kein Tool ist ein Zauberstab, aber KI-Tools, die gefälschte Fotos/Videos erkennen, sind immer noch eine wertvolle Ressource im Rahmen eines Verifizierungsprozesses oder einer Due-Diligence-Methode“, sagte Phan Van Tu.

Hoa Giang

Quelle: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html