ChatGPTのリアルな写真作成機能による詐欺の恐れ

[広告_1]

ChatGPTは「写真のように描く」

3月26日、OpenAIが同社のインテリジェントモデルのユーザー向けに画像作成機能に重点を置いた「Images in ChatGPT」を正式にリリースすると、ベトナムだけでなく世界中のAI（人工知能）ユーザーコミュニティは興奮した。以前、ChatGPT には画像を生成する機能もありましたが、制限があり、DALL-E と呼ばれる別の有名なテキストから画像へのモデルを経由する必要がありました。

このツールは、テキストを描画に変換したり、「Photoshop のように画像を組み合わせる」ことができるため、すぐに注目を集めました。多くの人が出力画像の品質は「素晴らしい」と述べ、ほとんどの人が現在市場に出回っている人気の AI モデルよりも「優れている」と評価しました。

ChatGPTは簡単なコマンドだけでリアルなコーヒーカップを作成します

OpenAI の研究責任者である Gabriel Goh 氏によると、GPT-4o モデルを使用した ChatGPT の画像生成能力の大幅な向上は、「バインディング」、つまり AI 画像ジェネレーターが属性とオブジェクト間の接続を維持する度合いを表す用語です。ゴー氏は、GPT-4o は 15 ～ 20 種類の異なるオブジェクトの属性を混乱なく正確に関連付けることができ、生成されるコンテンツの精度と信頼性が大幅に向上すると主張しました。

ChatGPT の Images は、画像作成能力が優れているだけでなく、画像内に文字やテキストが表示されるという、他の画像作成 AI ツールの「致命的な」弱点も解決します。実際、多くの画像には正確にレンダリングされたテキストが含まれているため、画像が本物か偽物かを判断するのがさらに難しくなります。

このツールの欠点は、画像の作成に時間がかかることですが、高品質の画像、正確な詳細、ユーザーの説明との一致には常に忍耐が必要であるため、遅延が発生するため、これは妥当であると考えられます。チームは、遅延の問題は将来改善されるだろうと述べた。

写真を組み合わせる機能に関する多くの懸念

ChatGPT と OpenAI がユーザーにもたらす最初の体験の楽しさに加えて、情報セキュリティ、プライバシー、および悪用されるリスクの問題が再び前面に押し出されます。「近い将来、ネット上で見る画像は必ずしも本物ではないかもしれない」と、ベトナムのFacebookユーザーは、ChatGPTに、俳優で元レスラーのドウェイン・ジョンソン（ザ・ロック）がチューインガムのブランドを宣伝している写真や、ストーブの上に座っている三毛猫の写真など、写真と同じくらい本物らしく見える完全に非現実的な画像を作成するよう依頼できることに懸念を表明した。

Người dùng hào hứng xen lẫn lo ngại vì khả năng tạo ảnh của ChatGPT - Ảnh 1. — 詳細なコマンドが提供されているため、ユーザーは従来の写真編集ツールの使用に関する詳細な知識を必要とせずに、驚くような結果を作成できます。

多くの人が、この新しいツールの「剥離」機能を試してみました。 TN（ハノイ）は、インターネットから取得したモデルの写真を使い、ChatGPTに要求通りに服を着替えるよう依頼したところ、ほぼすべてのコマンドが高い精度で実行されたと語った。「しかし、著作権で保護された画像の作成や過度に示唆的なコンテンツに関するシステムポリシー違反が主な理由で、依然として拒否されるものもありました」とTNは語った。

Thanh Nien氏のテストでは、ChatGPT は現実世界や映画、物語に登場する有名人や著作権で保護されたキャラクターに関連する画像を作成することを拒否しました。ドクター・ストレンジがベトナムで座ってアイスティーを飲んでいる画像を作成するよう求められたとき、システムは「あなたが送った参照画像にはマーベルの著作権で保護されたキャラクターであるドクター・ストレンジがはっきりと写っており、これは現在のコンテンツポリシーに違反しているため、要求された画像を作成することはできません」と返答した。

ChatGPT のマルチモーダル製品責任者である Jackie Shannon 氏は、ChatGPT の画像はディープフェイク、ポルノ、詐欺的なコンテンツに対して強力な保護機能を備えていると主張しています。特に、生成された画像には C2PA 準拠のメタデータが組み込まれ、AI 生成であることがマークされますが、検証には別のツールが必要になります。

しかし、いまだに「法律を回避」して有名人の画像を娯楽目的で使用する人が大勢います。例えば、CEOのティム・クックがiPhoneではなくサムスンの携帯電話を持っている、俳優のロバート・ダウニー・Jrが野菜キャンディーを噛んでいる、クリスティアーノ・ロナウドがベトナムの小さな路地で大勢の人の前でリオネル・メッシとボールを奪い合っている写真など...

[広告2]
出典: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm