Angst vor Betrug mit der realistischen Fotoerstellungsfunktion von ChatGPT

ChatGPT „zeichnet wie ein Foto“

Am 26. März war die KI-Benutzergemeinschaft (künstliche Intelligenz) auf der ganzen Welt sowie in Vietnam begeistert, als OpenAI offiziell Images in ChatGPT veröffentlichte, wobei der Schwerpunkt auf den Bilderzeugungsfunktionen für Benutzer der intelligenten Modelle des Unternehmens lag. Zuvor konnte ChatGPT auch Bilder generieren, allerdings war dies eingeschränkt und musste über ein anderes bekanntes Text-zu-Bild-Modell namens DALL-E erfolgen.

Die Fähigkeit dieses Tools, Text in Zeichnungen umzuwandeln und „Bilder wie in Photoshop zu kombinieren“, erregte schnell Aufmerksamkeit. Viele sagten, die Qualität der Ausgabebilder sei „erstaunlich“ und die meisten bewerteten sie als „überlegen“ im Vergleich zu den derzeit auf dem Markt erhältlichen gängigen KI-Modellen.

ChatGPT erstellt realistische Kaffeetassen mit nur einem einfachen Befehl

Laut Gabriel Goh, Forschungsleiter bei OpenAI, liegt die wesentliche Verbesserung der Bildgenerierungsfähigkeit von ChatGPT mithilfe des GPT-4o-Modells in der „Bindung“ – ein Begriff für den Grad, in dem der KI-Bildgenerator die Verbindung zwischen Attributen und Objekten aufrechterhält. Herr Goh behauptete, dass GPT-4o Attribute für 15 bis 20 verschiedene Objekte ohne Verwechslungen genau zuordnen könne, wodurch die Genauigkeit und Zuverlässigkeit des generierten Inhalts erheblich verbessert werde.

Images in ChatGPT zeichnet sich nicht nur durch seine Fähigkeit zur Bilderstellung aus, sondern behebt auch die „fatale“ Schwäche anderer KI-Tools zur Bilderstellung, nämlich die Anzeige von Schrift und Text innerhalb des Bildes. Tatsächlich enthalten viele Bilder genau wiedergegebenen Text, wodurch es noch schwieriger wird, zu erkennen, ob das Bild echt oder gefälscht ist.

Der Nachteil dieses Tools besteht darin, dass die Erstellung von Bildern viel Zeit in Anspruch nimmt. Dies wird jedoch als angemessen erachtet, da die Verzögerung dadurch entsteht, dass qualitativ hochwertige Bilder, genaue Details und die Übereinstimmung mit der Benutzerbeschreibung immer Geduld erfordern. Das Team sagte, dass das Latenzproblem in Zukunft behoben wird.

Viele Bedenken hinsichtlich der Möglichkeit, Fotos zu kombinieren

Neben dem Spaßfaktor, den ChatGPT und OpenAI den Benutzern beim ersten Experiment bieten, rücken auch hier die Themen Informationssicherheit, Datenschutz und Missbrauchsrisiko erneut in den Vordergrund. „In naher Zukunft müssen die Bilder, die Sie online sehen, nicht unbedingt echt sein“, äußerte ein Facebook-Nutzer in Vietnam seine Besorgnis, als er ChatGPT bitten konnte, völlig unwirkliche Bilder zu erstellen, die so echt wie Fotos aussehen, beispielsweise ein Foto des Schauspielers und ehemaligen Wrestlers Dwayne Johnson (The Rock), der für eine Kaugummimarke wirbt, oder ein Foto einer dreifarbigen Katze, die auf dem Herd sitzt und genauso aussieht wie auf einem Foto.

Mit den bereitgestellten detaillierten Befehlen können Benutzer überraschende Ergebnisse erzielen, ohne über umfassende Kenntnisse in der Verwendung herkömmlicher Fotobearbeitungstools verfügen zu müssen.

Viele Leute haben sogar die „Stripping“-Funktion des neuen Werkzeugs ausprobiert. TN (Hanoi) sagte, er habe ChatGPT anhand eines aus dem Internet aufgenommenen Modelfotos gebeten, sich wie gewünscht umzuziehen, und fast jeder Befehl sei mit hoher Genauigkeit ausgeführt worden. „Es gab jedoch immer noch einige Ablehnungen, hauptsächlich aufgrund von Verstößen gegen die Richtlinien des Systems zur Erstellung urheberrechtlich geschützter Bilder oder zu anzüglicher Inhalte“, teilte TN mit.

In den Tests von Thanh Nien weigerte sich ChatGPT, Bilder zu erstellen, die mit berühmten oder urheberrechtlich geschützten Charakteren aus der realen Welt oder aus Filmen und Geschichten in Verbindung stehen. „Ich kann das angeforderte Bild nicht erstellen, da das von Ihnen gesendete Referenzbild eindeutig die Figur Doctor Strange zeigt – eine urheberrechtlich geschützte Figur von Marvel und dies gegen die aktuellen Inhaltsrichtlinien verstößt“, antwortete das System auf die Aufforderung, ein Bild von Doctor Strange zu erstellen, wie er in Vietnam sitzt und Eistee trinkt.

Jackie Shannon, Leiterin für multimodale Produkte bei ChatGPT, behauptet, dass Bilder in ChatGPT einen starken Schutz vor Deepfake-, pornografischen oder betrügerischen Inhalten bieten. Insbesondere werden die generierten Bilder C2PA-konforme Metadaten enthalten, um sie als KI-generiert zu kennzeichnen, für die Überprüfung sind jedoch separate Tools erforderlich.

Dennoch gibt es immer noch viele Menschen, die das Gesetz erfolgreich umgehen und Bilder berühmter Persönlichkeiten zu Unterhaltungszwecken verwenden. Beispielsweise CEO Tim Cook, der ein Samsung-Telefon statt eines iPhones hält, oder Schauspieler Robert Downey Jr., der auf Gemüsebonbons kaut, oder ein Bild von Cristiano Ronaldo, wie er in einer kleinen Gasse in Vietnam vor vielen Menschen mit Lionel Messi um den Ball kämpft …

Quelle: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm