ChatGPT の新しい画像ジェネレーターが領収書偽造の脅威に

しかし、ユーザーはすぐにこの機能がレストランの請求書を偽造するために悪用される可能性があることに気付きました。

投資家のディーディー・ダス氏は、サンフランシスコのステーキハウスの偽の領収書の画像をXに投稿し、その画像はGPT-4oを使用して作成されたと主張した。

投資家のディーディ氏はこの画像をソーシャルネットワークXで共有した。

他の多くのユーザーも、リアルさを高めるために食べ物や飲み物の汚れを加えるなどして、これを再現することに成功しています。

別のユーザーは、食べ物のシミが付いたレシートの写真を共有しました。これは非常にリアルに見えますが、これも ChatGPT によって作成されたものです。

あるいは、地元のレストランチェーンのしわくちゃになった偽のレシートを投稿したフランスのユーザーもいます。

フランスのユーザーが共有した写真。

他にも多くの人がこの新機能をテストし、店舗向けの偽のレシートも作成しましたが、写真には依然として次のような矛盾が残っています。合計金額にピリオドではなくカンマが使われている。誤算（AIの基本的な計算能力の弱点）。

ただし、攻撃者はソフトウェアを使用して簡単な編集を行うか、コマンド プロンプトを微調整するだけで修正できます。

偽の請求書を簡単に作成できるため、存在しない経費の不正な払い戻しなど、大きなリスクが生じます。

この問題に対して、OpenAIは、AIが生成したすべての画像には、ChatGPTからの画像の出所を記録するメタデータ（属性）が含まれていると述べました。同社はまた、ユーザーがポリシーに違反した場合には「措置を講じ」、現実世界のフィードバックから「継続的に学習」している。

偽の請求書の作成を許可することについて尋ねられたOpenAIの広報担当者タヤ・クリスチャンソン氏は、その目標は「創造の自由を最大限にすること」だと説明し、偽の請求書は金融教育、芸術、広告目的で使用される可能性があると示唆した。

AIが悪用されるのは今回が初めてではない。これまで、MidJourney と DALL-E は、文書、ID カード、さらには通貨の偽造画像を作成するために使用されていました。

カオ・フォン（TC、MSBによる）

出典: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html