「4姉妹、私たちは90歳です」写真の真実

AI が生成した画像は Facebook 上で何千ものインタラクションを生み出します。

「私たち4人姉妹は、今日90歳になります。皆さんのお祝いをお待ちしています」。このキャプションは、写真のコラージュの横に書かれており、上部には4人の少女、下部には4人の老婦人が写っており、全員が明るい笑顔を浮かべている。この投稿には、4万5000件を超える「いいね！」、約9000件のコメント、500件を超えるシェアが集まった。

以下には、4人の「お年寄り」の健康を祝福したり、その美しさを称賛する投稿が多数寄せられている。ただし、これはAIによる描画です。共有アカウントは、この画像を自分で作成したわけではなく、外国の情報源から入手したものです。

Copilot、Midjourney、DALL-E などの AI ツールの開発により、ユーザーは 1 つのコマンドだけで非常にリアルな画像を作成できます。

ソーシャルメディアで AI が生成した写真を見るのは難しくありません。画像は家族や生活をテーマにしていることが多く、感情に訴えてより多くの交流を引き出します。

AI で生成された写真はどこにでも見られますが、誰もが AI で生成された写真と通常の写真を簡単に区別できるわけではありません。単に「いいね！」を誘導するだけでなく、なりすましやフェイクニュースの拡散など、悪質な目的に悪用される可能性もあります。

ソーシャルメディアの「いいね」ツール

Facebook、Instagram、Xでは、ユーザーはAIによって作成された画像や動画に簡単に出会うことができます。 「私たちは4人姉妹です」や「この女の子は亡き父親の肖像画を描きましたが、誰も彼女を支持しませんでした」などのコンテンツは、何万ものインタラクションと何千ものコメントを集めました。

画像は主に家族、愛、悲しみなどに関するものだった。コメントのほとんどは記事に同情を表明したものの、AIによって作成された画像だと認識していないものが多かった。多くのアカウントの投稿も明確に注記していません。

Facebook では、AI によって生成された画像が実際の写真と間違われることがあります。

専門家のレ・コン・ミン・コイ氏によると、Facebook には AI コンテンツがますます多く登場しているという。多くの投稿はエンゲージメントが高いためプラットフォームによって推奨されますが、そのほとんどは AI によって生成されたものであることが明確にラベル付けされていません。

「テクノロジーにあまり触れていない人には違いがほとんどわかりません。この投稿に対する何千ものコメントは『とても感動的』といった同情的な内容ばかりです。」

AI は、新しいモデルが手や歯などの一般的なエラーを修正できるレベルまで進歩しました。画像を自分で確認する必要がありました。 「AI通知ラベルがなければ、ユーザーはそれをほとんど認識できないだろう」とコイ氏は語った。

ウォータールー大学（カナダ）が2024年3月に発表した調査によると、260人の調査参加者のうち、AIが生成した人物の写真と実際の人物の写真を区別できたのはわずか61％で、研究者の予想率（85％）を下回った。

AI によって生成されたコンテンツの中には、数万件ものインタラクションを生み出すものもあります。

ソーシャル ネットワークで頻繁に活動する人物として、Khoi 氏は、AI 画像/動画が視聴回数を増やしたり、交流を増やしたり、さらには詐欺行為に悪用されているとコメントしました。

「AIコンテンツは、視聴者を簡単に心理的に操作し、真実ではないことを信じさせ、低品質の製品を買わせたり、編集された広告や陰謀論を信じさせたりする可能性があります」とコイ氏は付け加えた。

実際、Googleとデューク大学（米国）が2024年5月に発表した調査によると、誤情報の拡散形態の中で、AI画像の人気はテキストや通常の編集写真とほぼ同等であることが示されています。

AI 生成画像をどのように区別すればよいでしょうか?

AIが生成する画像の品質はどんどん向上しており、実際の写真と区別がつきにくくなっています。ただし、ユーザーはよく見れば、いくつかの詳細を信頼することができます。

AI は他の画像のデータに基づいて画像を作成することがよくあります。したがって、あまり訓練を受けていない人にとっては、ツールは使いにくい場合があります。

セキュリティ専門家のゴ・ミン・ヒュー氏によると、AIは手を再現するのが難しいことが多く、余分な指や変形した指が写った画像ができてしまうため、手と指は注目すべき詳細だという。

俳優ライアン・レイノルズの AI 生成画像。写真: @joinrealmai/X .

俳優のライアン・レイノルズの写真を例に挙げてみましょう。写真の大部分はかなりリアルだが、レイノルズの右手の指の形は不自然だ。俳優のジャケットに書かれた文字も全く意味不明です。これは、AI が生成した画像が正確なテキストやロゴを作成できないことを明らかに示す兆候です。

次に、画像内の照明と影の効果を監視することができます。照明や影の角度が異常な場合、その画像は AI によって生成されたものである可能性があります。

同じコンテキストを共有するコンテンツの場合、AI が完全に異なる要素を生成するのが難しいことが多いため、ユーザーは重複した詳細を確認する必要があります。

BBCによれば、これは「完璧すぎる」例だという。下の歌手アリアナ・グランデの画像は非常にリアルに見えますが、よく見ると、彼女の顔が滑らかすぎるため、写真が非常に鮮明になっていることがわかります。背景のフラミンゴの配置もよくありません。

AIによって作成された歌手アリアナ・グランデの画像。写真: @agswaffle/Instagram .

コンテンツがビデオ形式の場合、確認すべき詳細には、唇の動きが会話と一致していない、目の瞬きが少ないまたは不自然、肌の質感がぼやけているなどが含まれます...

最後に、顔、手、照明についてまだ不明な点がある場合は、Google などのツールで逆検索してソースを特定する必要があります。

「画像の信憑性に疑問がある場合は、逆検索ツールを使用して、その画像が以前に他の場所に表示されたことがあるかどうかを確認することができます」とヒュー氏は付け加えた。