Le nouveau générateur d'images de ChatGPT menace la contrefaçon de reçus

Cependant, les utilisateurs ont rapidement découvert que cette fonctionnalité pouvait être utilisée abusivement pour falsifier les factures de restaurant.

L'investisseur Deedy Das a publié sur X une image d'un faux reçu d'un steakhouse de San Francisco, affirmant que l'image avait été créée à l'aide de GPT-4o.

nouveau processus de création d'image de chgpt dans la réédition d'image 1 — L'investisseur Deedy a partagé l'image sur le réseau social X.

De nombreux autres utilisateurs l'ont également recréé avec succès, en ajoutant même des taches de nourriture et de boisson pour augmenter le réalisme.

nouveau processus de création d'image de chgpt dans la réédition d'image 2 — Un autre utilisateur a partagé une photo d'un reçu avec des taches de nourriture, qui semblait très réaliste, mais qui a également été créée par ChatGPT.

Ou comme un utilisateur en France qui a publié un faux reçu d'une chaîne de restaurants locale qui avait une apparence froissée.

nouveau processus de création d'image de chgpt dans re-image 3 — Photo partagée par un utilisateur en France.

De nombreuses autres personnes ont testé la nouvelle fonctionnalité et ont également créé de faux reçus pour les magasins, mais les photos présentent toujours des incohérences telles que : des virgules au lieu de points dans le total ; Erreur de calcul (faiblesse de l'IA dans les calculs de base).

Cependant, l'attaquant n'a besoin que d'effectuer des modifications simples à l'aide d'un logiciel ou de modifier l'invite de commande pour résoudre le problème.

La possibilité de créer facilement de fausses factures ouvre la voie à des risques majeurs, comme des remboursements frauduleux pour des dépenses inexistantes.

En réponse à ce problème, OpenAI a déclaré que toutes les images générées par l'IA contiennent des métadonnées (attributs) enregistrant l'origine de l'image à partir de ChatGPT. L’entreprise « prend également des mesures » lorsque les utilisateurs enfreignent les politiques et « apprend en permanence » à partir des retours du monde réel.

Interrogée sur la possibilité d'autoriser la création de fausses factures, la porte-parole d'OpenAI, Taya Christianson, a expliqué que l'objectif était de « maximiser la liberté créative » et a suggéré que les fausses factures pourraient être utilisées à des fins d'éducation financière, d'art ou de publicité.

Ce n’est pas la première fois que l’IA est exploitée. Auparavant, MidJourney et DALL-E étaient utilisés pour créer de fausses images de documents, de cartes d’identité et même de devises.

Cao Phong (selon TC, MSB)

Source : https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html