Weltweit wächst die Sorge vor „KI-Illusionen“ in der Justiz

(CLO) Eine große Anwaltskanzlei in den USA läuft Gefahr, bestraft zu werden, weil sie in Gerichtsakten mithilfe künstlicher Intelligenz (KI) erstellte Scheinfälle verwendet hat. Der Vorfall spiegelt die wachsenden Herausforderungen wider, vor denen der Rechtsbereich angesichts der rasanten Entwicklung der KI steht.

Die Anwaltskanzlei Morgan & Morgan hat ihren über 1.000 Anwälten eine dringende Warnung gesandt, nachdem zwei ihrer Anwälte von einem Bundesrichter in Wyoming untersucht wurden, weil sie in einer Klage gegen Walmart erfundene Fälle angeführt hatten. Einer der beiden Anwälte gab zu, für die Suche KI eingesetzt zu haben und entschuldigte sich für den unbeabsichtigten Fehler.

Abbildung: Unsplash

Dies ist nicht das erste Mal, dass KI „rechtliche Illusionen“ geschaffen hat. Zuvor wurden im Juni 2023 zwei New Yorker Anwälte mit einer Geldstrafe von 5.000 US-Dollar belegt, weil sie gefälschte Fälle von ChatGPT verwendet hatten.

Im November 2023 wurde ein Anwalt aus Texas wegen eines ähnlichen Fehlers zu einer Geldstrafe von 2.000 US-Dollar verurteilt und gezwungen, an einem Kurs über juristische KI teilzunehmen. Letzten Monat wurde die Glaubwürdigkeit eines Desinformationsexperten aus Minnesota vor Gericht in Frage gestellt, weil er gefälschte, KI-generierte Zitate verwendet hatte.

Der Einsatz von KI bei der Recherche und Formulierung juristischer Texte wird immer häufiger. Einer Umfrage von Thomson Reuters zufolge nutzen 63 Prozent der Anwälte KI für ihre Arbeit, 12 Prozent davon nutzen sie regelmäßig.

Experten warnen, dass generative KI Daten mit großer Sicherheit fälschen kann, was ernsthafte Risiken birgt, wenn sie nicht gründlich überprüft werden.

Die American Bar Association hat betont, dass Anwälte die Verantwortung haben, Informationen zu überprüfen, da durch KI Fehler auftreten können. Professor Andrew Perlman von der Suffolk University sagte, der Einsatz von KI ohne sorgfältige Tests sei „inkompetent“.

Professor Harry Surden von der University of Colorado glaubt hingegen, dass das Problem nicht die Technologie sei, sondern das fehlende Verständnis für einen verantwortungsvollen Umgang mit KI.

Der Fall Morgan & Morgan ist eine wichtige Warnung an die gesamte Rechtsbranche, da sie in das Zeitalter der KI eintritt. Anwaltskanzleien müssen Wege finden, Risiken zu kontrollieren und Mitarbeiter zu schulen, um in Zukunft schwerwiegende rechtliche Konsequenzen zu vermeiden.

Ngoc Anh (laut Reuters, Abovethelaw)

Quelle: https://www.congluan.vn/moi-lo-ngai-ao-giac-ai-trong-nganh-toa-an-dang-gia-tang-tren-the-gioi-post335161.html