Peur de la fraude grâce à la capacité de création de photos réalistes de ChatGPT

ChatGPT « dessine comme une photo »

Le 26 mars, la communauté des utilisateurs d'IA (intelligence artificielle) du monde entier ainsi qu'au Vietnam a été enthousiasmée lorsque OpenAI a officiellement publié Images dans ChatGPT en se concentrant sur les capacités de création d'images pour les utilisateurs des modèles intelligents de l'entreprise. Auparavant, ChatGPT avait également la capacité de générer des images, mais cela était limité et devait passer par un autre célèbre modèle de texte en image appelé DALL-E.

La capacité de cet outil à transformer du texte en dessins et à « combiner des images comme Photoshop » a rapidement attiré l’attention. Beaucoup ont déclaré que la qualité de l'image de sortie était « incroyable » et la plupart l'ont jugée « supérieure » aux modèles d'IA populaires actuellement sur le marché.

ChatGPT crée des tasses à café réalistes avec une simple commande

Selon Gabriel Goh, responsable de la recherche chez OpenAI, l'amélioration significative de la capacité de génération d'images de ChatGPT à l'aide du modèle GPT-4o est la « liaison » - un terme désignant le degré auquel le générateur d'images IA maintient la connexion entre les attributs et les objets. M. Goh a affirmé que GPT-4o peut associer avec précision des attributs à 15 à 20 objets différents sans confusion, améliorant ainsi considérablement la précision et la fiabilité du contenu généré.

Non seulement remarquable dans sa capacité de création d'images, Images in ChatGPT résout également la faiblesse « fatale » des autres outils d'IA de création d'images, qui consiste à afficher l'écriture et le texte à l'intérieur de l'image. En fait, de nombreuses images contiennent du texte rendu avec précision, ce qui rend encore plus difficile de déterminer si l’image est réelle ou fausse.

L'inconvénient de cet outil est qu'il faut beaucoup de temps pour créer des images, mais cela est considéré comme raisonnable car le délai est créé parce que des images de bonne qualité, des détails précis et correspondant à la description de l'utilisateur nécessitent toujours de la patience. L'équipe a déclaré que le problème de latence serait amélioré à l'avenir.

De nombreuses inquiétudes concernant la possibilité de combiner des photos

Outre le plaisir de l'expérience initiale que ChatGPT et OpenAI apportent aux utilisateurs, la question de la sécurité de l'information, de la confidentialité ainsi que du risque d'exploitation est à nouveau mise au premier plan. « Dans un avenir proche, les images que vous voyez en ligne ne seront peut-être pas forcément réelles », a exprimé un utilisateur de Facebook au Vietnam, inquiet lorsqu'il pourrait demander à ChatGPT de créer des images complètement irréelles qui semblent aussi réelles que des photos, par exemple, une photo de l'acteur et ancien lutteur Dwayne Johnson (The Rock) faisant la publicité d'une marque de chewing-gum, ou une photo d'un chat calico assis sur la cuisinière qui ressemble exactement à une photo.

Grâce aux commandes détaillées fournies, les utilisateurs peuvent créer des résultats surprenants sans avoir besoin de connaissances approfondies sur l'utilisation des outils d'édition de photos traditionnels.

De nombreuses personnes ont même essayé la capacité de « décapage » du nouvel outil. TN (Hanoï) a déclaré qu'il avait utilisé une photo de modèle prise sur Internet pour demander à ChatGPT de changer de vêtements comme demandé et que presque chaque commande avait été exécutée avec une grande précision. « Cependant, il y a eu encore quelques rejets, principalement en raison de violations des politiques du système concernant la création d'images protégées par le droit d'auteur ou de contenu trop suggestif », a partagé TN.

Lors des tests de Thanh Nien , ChatGPT a refusé de créer des images liées à des personnages célèbres ou protégés par le droit d'auteur dans le monde réel ou dans des films et des histoires. "Je ne peux pas créer l'image demandée car l'image de référence que vous avez envoyée montre clairement le personnage Doctor Strange - un personnage protégé par le droit d'auteur de Marvel et cela viole la politique de contenu actuelle", a répondu le système lorsqu'on lui a demandé de créer une image du Doctor Strange assis... en train de boire du thé glacé au Vietnam.

Jackie Shannon, responsable des produits multimodaux chez ChatGPT, affirme que les images de ChatGPT bénéficient d'une forte protection contre les contenus Deepfake, pornographiques ou frauduleux. Notamment, les images générées intégreront des métadonnées conformes à la norme C2PA pour les marquer comme générées par l'IA, mais nécessiteront des outils distincts pour les vérifier.

Cependant, il existe encore de nombreuses personnes qui réussissent à « contourner la loi » et à utiliser des images de personnes célèbres à des fins de divertissement. Par exemple, le PDG Tim Cook tenant un téléphone Samsung au lieu d'un iPhone, ou l'acteur Robert Downey Jr. mâchant des bonbons aux légumes ou une photo de Cristiano Ronaldo se battant pour le ballon avec Lionel Messi dans une petite ruelle au Vietnam devant de nombreuses personnes...

Source : https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm