El nuevo generador de imágenes de ChatGPT amenaza la falsificación de recibos

Sin embargo, los usuarios descubrieron rápidamente que esta función podía utilizarse para falsificar facturas de restaurantes.

El inversor Deedy Das publicó una imagen de un recibo falso de un restaurante de carnes en San Francisco en X, afirmando que la imagen fue creada con GPT-4o.

Nuevo proceso de creación de imágenes de CHGPT en la reedición de imágenes 1 — El inversor Deedy compartió la imagen en la red social X.

Muchos otros usuarios también lo han recreado con éxito, añadiendo incluso manchas de comida y bebida para aumentar el realismo.

Nuevo proceso de creación de imágenes de CHGPT en la reedición de imágenes 2 — Otro usuario compartió una foto de un recibo con manchas de comida, que parecía muy realista, pero también fue creado por ChatGPT.

O como un usuario en Francia que publicó un recibo falso de una cadena de restaurantes local que tenía un aspecto arrugado.

Proceso de creación de nueva imagen de CHGPT en Re-Image 3 — Foto compartida por un usuario en Francia.

Muchos otros han probado la nueva función y también han creado recibos falsos para tiendas, pero las fotos aún tienen inconsistencias como: Comas en lugar de puntos en el total; Error de cálculo (debilidad de la IA en los cálculos básicos).

Sin embargo, el atacante sólo necesita realizar modificaciones simples mediante software o modificar el símbolo del sistema para solucionarlo.

La posibilidad de crear fácilmente facturas falsas abre riesgos importantes, como reembolsos fraudulentos de gastos inexistentes.

En respuesta a este problema, OpenAI dijo que todas las imágenes generadas por IA contienen metadatos (atributos) que registran el origen de la imagen desde ChatGPT. La empresa también “toma medidas” cuando los usuarios violan las políticas y “aprende continuamente” de los comentarios del mundo real.

Cuando se le preguntó sobre permitir la creación de facturas falsas, la portavoz de OpenAI, Taya Christianson, explicó que el objetivo es "maximizar la libertad creativa" y sugirió que las facturas falsas podrían usarse con fines de educación financiera, arte o publicidad.

Esta no es la primera vez que se explota la IA. Anteriormente, MidJourney y DALL-E se utilizaban para crear imágenes falsas de documentos, tarjetas de identidad e incluso monedas.

Cao Phong (según TC, MSB)

Fuente: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html