Die rasante Entwicklung der künstlichen Intelligenz (KI) hat die Sorge geweckt, dass sie sich schneller entwickelt, als der Mensch ihre Auswirkungen verstehen kann.
Foto: ST
Der Einsatz allgemeiner KI hat nach dem Aufkommen von Tools wie ChatGPT erheblich zugenommen. Diese Tools bieten zwar viele Vorteile, können jedoch auch auf schädliche Weise missbraucht werden.
Um dieses Risiko zu managen, haben die Vereinigten Staaten und mehrere andere Länder Vereinbarungen mit sieben Unternehmen – darunter Amazon, Anthropic, Google, Inflection, Meta, Microsoft und OpenAI – getroffen, in denen diese sich zu sicheren Praktiken bei der Entwicklung von KI-Technologien verpflichten.
Die Ankündigung des Weißen Hauses war mit einer eigenen Terminologie verbunden, die dem Durchschnittsbürger möglicherweise unbekannt ist, darunter Begriffe wie „Red Teaming“ und „Watermarking“. Hier sind sieben KI-bezogene Begriffe, auf die Sie achten sollten.
Maschinelles Lernen
Dieser Zweig der KI zielt darauf ab, Maschinen durch die Erkennung von Mustern darin zu trainieren, eine bestimmte Aufgabe präzise auszuführen. Auf Grundlage dieser Daten kann die Maschine dann Vorhersagen treffen.
Tiefes Lernen
Kreative KI-Aufgaben basieren häufig auf Deep Learning. Bei dieser Methode werden Computer mithilfe neuronaler Netzwerke trainiert. Dabei handelt es sich um eine Reihe von Algorithmen, die die Neuronen des menschlichen Gehirns nachahmen und komplexe Verbindungen zwischen Mustern herstellen, um so Text, Bilder oder andere Inhalte zu generieren.
Da Deep-Learning-Modelle über mehrere Neuronenschichten verfügen, können sie komplexere Muster erlernen als herkömmliches maschinelles Lernen.
Großes Sprachmodell
Ein großes Sprachmodell (LLM) wird anhand riesiger Datenmengen trainiert und zielt darauf ab, Sprache zu modellieren oder das nächste Wort in einer Sequenz vorherzusagen. Große Sprachmodelle wie ChatGPT und Google Bard können für Aufgaben wie Zusammenfassung, Übersetzung und Konversation verwendet werden.
Algorithmus
Eine Reihe von Anweisungen oder Regeln, die es Maschinen ermöglichen, Vorhersagen zu treffen, Probleme zu lösen oder Aufgaben zu erledigen. Algorithmen können Einkaufsempfehlungen geben und bei der Betrugserkennung helfen, außerdem stehen Chatfunktionen für den Kundenservice zur Verfügung.
Voreingenommenheit
Da KI anhand großer Datensätze trainiert wird, können in diese Daten schädliche Informationen wie beispielsweise Hassreden einfließen. Rassismus und Sexismus können auch in den Datensätzen auftreten, die zum Trainieren von KI verwendet werden, was zu voreingenommenen Inhalten führt.
KI-Unternehmen haben sich bereit erklärt, sich eingehender mit der Frage zu befassen, wie schädliche Voreingenommenheit und Diskriminierung in KI-Systemen vermieden werden können.
Rotes Teaming
Zu den Verpflichtungen, die Unternehmen gegenüber dem Weißen Haus eingegangen sind, gehört die Durchführung von „Red Teaming“ innerhalb und außerhalb von KI-Modellen und -Systemen.
Beim „Red Teaming“ wird ein Modell getestet, um potenzielle Schäden aufzudecken. Der Begriff stammt aus einer militärischen Praxis, bei der ein Team die Aktionen eines Angreifers simuliert, um Strategien zu entwickeln.
Diese Methode wird häufig verwendet, um Systeme wie Cloud-Computing-Plattformen von Unternehmen wie Microsoft und Google auf Sicherheitslücken zu testen.
Wasserzeichen
Mit einem Wasserzeichen lässt sich erkennen, ob Audio- oder Bilddaten mithilfe der KI generiert wurden oder nicht. Zu Überprüfungszwecken gesammelte Fakten können Informationen darüber enthalten, wer sie erstellt hat und wie und wann sie erstellt oder geändert wurden.
Microsoft hat sich beispielsweise verpflichtet, die von seinen KI-Tools generierten Bilder mit einem Wasserzeichen zu versehen. Die Unternehmen haben dem Weißen Haus außerdem zugesagt, die Bilder mit einem „Wasserzeichen“ zu versehen bzw. ihren Ursprung aufzuzeichnen, um sie als KI-generierte Fotos zu identifizieren.
Wasserzeichen werden auch häufig verwendet, um Verletzungen des geistigen Eigentums zu verfolgen. Wasserzeichen bei KI-generierten Bildern können als unmerkliches Rauschen auftreten, beispielsweise als leichte Veränderung jedes siebte Pixel.
Das Anbringen eines Wasserzeichens in KI-generiertem Text kann jedoch komplexer sein und eine Anpassung der Wortvorlage erfordern, sodass diese als KI-generierter Inhalt identifiziert werden kann.
Hoang Ton (laut Poynter)
[Anzeige_2]
Quelle
Kommentar (0)