OpenAIs Spracherkennungs-KI-Tool beim Erfinden von Geschichten ertappt

Der Technologieriese OpenAI hat sein Spracherkennungstool Whisper als KI mit „menschlicher Genauigkeit und Robustheit“ angepriesen. Whisper hat jedoch einen großen Fehler: Es generiert völlig falsche Texte und Sätze.

Einige der von der KI generierten Texte – sogenannte „Halluzinationen“ – können rassistische Kommentare, gewalttätige Sprache und sogar imaginäre medizinische Behandlungen enthalten – Foto: AP

Laut AP haben Experten aus Interviews mit Softwareingenieuren, Entwicklern und akademischen Forschern herausgefunden, dass manche von der KI generierten Texte nicht real seien und als „Halluzinationen“ bezeichnet würden. Bezeichnenderweise enthalten sie rassistische Bemerkungen, gewalttätige Sprache und sogar eingebildete medizinische Behandlungen.

Hohe „Illusionsrate“ in KI-generierten Texten

Experten sind besonders besorgt, weil Whisper in vielen Branchen weltweit weit verbreitet ist, um Interviews zu übersetzen und zu transkribieren, Text in gängigen Verbrauchertechnologien zu generieren und Untertitel für Videos zu erstellen.

Noch beunruhigender ist, dass viele medizinische Zentren Whisper nutzen, um Konsultationen zwischen Ärzten und Patienten weiterzuleiten, obwohl OpenAI gewarnt hat, dass das Tool nicht in „Hochrisikobereichen“ eingesetzt werden sollte. „.

Das volle Ausmaß des Problems lässt sich nur schwer bestimmen, doch Forscher und Ingenieure berichten, dass sie bei ihrer Arbeit regelmäßig auf Whisper-„Halluzinationen“ stoßen.

Ein Forscher der University of Michigan sagte, er habe bei acht von zehn getesteten Audiokonvertierungen „Halluzinationen“ festgestellt. Ein Computeringenieur stellte bei etwa der Hälfte der Konvertierungen von über 100 Stunden Audiomaterial, das er analysierte, „Halluzinationen“ fest. Ein anderer Entwickler sagte, er habe in fast allen 26.000 Aufnahmen, die er mit Whisper erstellt habe, „Halluzinationen“ festgestellt.

Das Problem besteht auch bei kurzen, klar aufgezeichneten Audiobeispielen weiterhin. Eine aktuelle Studie von Informatikern entdeckte in den über 13.000 untersuchten klaren Audioclips 187 „Illusionen“. Dieser Trend würde zu Zehntausenden von falschen Transkriptionen in Millionen von Aufnahmen führen, sagten die Forscher.

Solche Fehler könnten „sehr schwerwiegende Folgen“ haben, insbesondere in Krankenhäusern, sagt Alondra Nelson, die bis letztes Jahr unter Präsident Biden das Büro für Wissenschaft und Technologie des Weißen Hauses leitete.

„Niemand möchte eine Fehldiagnose“, betonte Nelson, heute Professor am Institute for Advanced Study in Princeton, New Jersey. „Es muss einen höheren Standard geben.“

Whisper wird auch verwendet, um Untertitel für Gehörlose und Schwerhörige zu erstellen – eine Bevölkerungsgruppe, bei der das Risiko von Fehlübersetzungen besonders hoch ist. Denn gehörlose und schwerhörige Menschen hätten keine Möglichkeit, erfundene Passagen zu identifizieren, die „im restlichen Text versteckt“ seien, sagt der gehörlose Christian Vogler, Leiter des Technology Accessibility Program an der University of Gallaudet.

OpenAI soll das Problem lösen

Die Häufigkeit solcher „Halluzinationen“ hat Experten, Befürworter und ehemalige Mitarbeiter von OpenAI dazu veranlasst, die Bundesregierung aufzufordern, über KI-Regulierungen nachzudenken. Zumindest muss OpenAI diesen Fehler beheben.

„Dieses Problem ist lösbar, wenn das Unternehmen bereit ist, ihm Priorität einzuräumen“, sagte William Saunders, ein Forschungsingenieur in San Francisco, der OpenAI im Februar verließ, weil er Bedenken hinsichtlich der Ausrichtung des Unternehmens hatte. Kommentar

„Es wäre ein Problem, wenn man es auf den Markt bringt und die Leute zu viel Vertrauen in seine Leistungsfähigkeit gewinnen und es dann in all diese anderen Systeme integrieren.“ Ein Sprecher von OpenAI sagte, das Unternehmen suche ständig nach Möglichkeiten, „Illusionen“ zu mildern, und schätze die Erkenntnisse der Forscher. Er fügte hinzu, dass OpenAI Feedback in Modellaktualisierungen einbeziehe.

Während die meisten Entwickler davon ausgehen, dass Text-to-Speech-Engines Tippfehler oder andere Fehler machen könnten, sagen Ingenieure und Forscher, sie hätten noch nie eine KI-gestützte Text-to-Speech-Engine gesehen, die das nicht tut. Der Assistent hatte „Halluzinationen“ so oft als Flüstern.

Quelle: https://tuoitre.vn/cong-cu-ai-chuyen-loi-noi-thanh-van-ban-cua-openai-bi-phat-hien-bia-chuyen-20241031144507089.htm