Wie können KI-Tools Nachrichtenredaktionen bei der Moderation von Kommentaren unterstützen?

Für viele Zeitungen ist der Kommentarbereich ein großartiger Ort, an dem Leser unterschiedliche Gedanken, Erfahrungen und Perspektiven einbringen können. Allerdings kann er auch zu einem Nährboden für Negativität werden, da er Argumente und eine beleidigende Sprache enthält, die wertvolle Stimmen übertönen können.

Dies ist die Herausforderung, vor der Lucy Warwick-Ching, Community-Redakteurin der Financial Times, steht. Die FT verfügt über ein engagiertes Moderatorenteam, das jedoch bei Hunderten von Artikeln, die jede Woche veröffentlicht werden, nicht hinterherkommt und zu den meisten Artikeln keine Kommentare mehr zulässt. Sie beschlossen außerdem, an Wochenenden alle Kommentarbereiche zu schließen, um zu vermeiden, dass giftige Diskussionen außer Kontrolle geraten, wenn niemand am Schreibtisch sitzt.

Die Einstellung zusätzlicher Moderatoren ist zu teuer und der Aufbau eines eigenen Moderationssystems ist zudem zu umständlich. Daher verwendete Warwick-Chings Team ein bereits vorhandenes Moderationstool von Utopia Analytics. Anschließend wurde das Tool anhand von 200.000 echten Leserkommentaren trainiert, um höfliche, nicht streitlustige und themenfremde Diskussionen zu erkennen.

KI-Tools können sexistische und rassistische Kommentare trotz komplexer Sprache erkennen. Foto: Eidosmedia

Als das Tool erstmals zum Einsatz kam, musste die FT jeden freigegebenen Kommentar noch manuell prüfen. Es dauert Monate, bis das Tool die richtigen Moderationsentscheidungen trifft. Es erfasst mittlerweile die meisten sexistischen und rassistischen Kommentare, trotz der komplexen Sprache, die die FT-Leser verwenden.

„Es ist nicht perfekt und noch in Arbeit“, sagte Warwick-Ching sechs Monate später.

Dennoch sind seine Auswirkungen immer noch erheblich. Bisher kostete es für Moderatoren viel Zeit, negative Kommentare herauszufiltern. Jetzt übernimmt die KI einen Großteil der schweren Arbeit, sodass sich die Moderatoren auf den Aufbau der Community konzentrieren können.

KI ist nicht nur bei der Moderation von Kommentaren effektiv, sie ersetzt auch Menschen beim Umgang mit emotional verletzenden Kommentaren. KI absorbiert mittlerweile einen Großteil der Negativität, die diese Kommentare mit sich bringen, und schützt die Menschen vor der Negativität.

Das Wichtigste sei jedoch, dass durch die Einführung von KI-Tools kein Bediener arbeitslos werde, sagt Warwick-Ching. „Wir haben von Anfang an bei der Einführung des Moderationstools klargestellt, dass es nicht um eine Reduzierung des Personalbestands geht, sondern darum, Moderatoren einen Raum für ihre Arbeit zu bieten.“

Bisher hat das KI-Tool positive Ergebnisse geliefert. Leser haben per E-Mail mitgeteilt, dass ihnen im Kommentarbereich eine verbesserte Höflichkeit aufgefallen sei und dass es keine nennenswerten Beschwerden über ungerechtfertigt abgelehnte Kommentare gegeben habe.

Auch Journalisten können einen deutlichen Anstieg des Nutzens von Kommentaren verzeichnen, da ihre Artikel durch wertvolle Leserbeiträge bereichert werden. Sie stellten außerdem fest, dass sich Moderatoren durch den Einsatz von KI auf das konzentrieren können, was sie am besten können: einen einladenden und informativen Raum für die Menschen zu schaffen.

Hoai Phuong (laut Journalismus)

Quelle: https://www.congluan.vn/cong-cu-ai-co-the-giup-cac-toa-soan-kiem-duyet-binh-luan-nhu-the-nao-post298847.html