イスラエル・ハマス戦争：AIが作り出した偽画像の危険性

[広告_1]

偽の AI 画像はどのように機能するのでしょうか?

AIは今日、戦争の場にさえ存在する。人工知能アプリケーションは今年大きく進歩し、ほとんど誰でも AI ジェネレーターを使用して、少なくとも一見本物らしく見える画像を作成できるようになりました。

イスラエルのハマス戦闘員は、何者かが作成した偽の写真によって危険にさらされている。写真1 — ガザ戦争のAI生成偽写真。

これを行うには、ユーザーは Midjourney や Dall-E などのツールに、仕様や情報などのヒントをいくつか与えるだけで済みます。 AI ツールは、テキストや音声プロンプトを画像に変換します。

この画像生成プロセスは、機械学習と呼ばれるものに基づいています。たとえば、作成者が 70 歳の男性が自転車に乗っている画像を見せるよう依頼した場合、作成者はデータベースを検索して画像と用語を一致させます。

入手可能な情報に基づいて、AIアルゴリズムは高齢の自転車乗りの画像を生成します。増え続ける入力と技術的な更新のおかげで、これらのツールは劇的に改善され、継続的に学習しています。

これらすべては中東紛争に関連した画像に適用されています。 AI専門家のハニー・ファリド氏は、「感情が非常に高ぶっている」紛争では、AI画像を通じて広がるものも含め、誤情報が大きな影響を及ぼすと述べた。

カリフォルニア大学バークレー校のデジタル分析教授ファリド氏は、激しい戦いは偽のコンテンツの作成と拡散、そして感情を煽るのに最適な温床になると語った。

イスラエルとハマスの戦争のAI画像

人工知能の助けを借りて作成された画像や動画は、ウクライナ戦争に関する偽情報を煽っており、イスラエルとハマスの戦争でもそれが起こり続けている。

専門家によると、ソーシャルメディア上で出回っている戦争に関するAI画像は、多くの場合2つのカテゴリーに分類される。人々の苦しみに焦点を当て、共感を呼び起こすもの。もう 1 つは、出来事を誇張して紛争を煽り、暴力を激化させる偽の AI です。

イスラエルのハマス戦闘員はこれらの偽写真の危険にさらされているが、誰がこれを作成したのか？写真2 — ガザの瓦礫の中にいる父と子のAI生成偽写真。

たとえば、最初のカテゴリには、瓦礫の山の前に立つ父親と 5 人の子供たちの写真が含まれます。 X（旧Twitter）とInstagramで何度もシェアされ、数十万回も閲覧されました。

この画像は、少なくとも X ではコミュニティによって偽物としてフラグが付けられています。これは、AI 画像によく見られるさまざまなエラーや不一致によって認識できます (上の画像を参照)。

同様の異常は、X で拡散した下記の偽の AI 画像にも見られます。この画像は、遺跡で一緒に食事をするパレスチナ人家族を写したものだそうです。

イスラエルのハマス戦闘員は、誰かが作成した偽の画像によって危険にさらされている。写真3 — AIが生成したパレスチナ政党の偽写真。

一方、爆撃された家屋が立ち並ぶ入植地をイスラエル国旗を振りながら行進する兵士たちを写した別の写真は、憎悪と暴力をあおることを目的とした第2のカテゴリーに分類される。

このような AI 画像はどこから来るのでしょうか?

AI が生成した紛争の画像のほとんどはソーシャルメディアプラットフォームに投稿されていますが、他の多くのプラットフォームや組織、さらには一部のニュースサイトでも公開されています。

ソフトウェア会社Adobeは、2022年末までにAI生成画像をストックフォトのラインナップに追加することで波紋を呼んでいる。データベースでは、それらの画像に適切なラベルが付けられている。

Adobe は現在、爆発、抗議者、アルアクサモスクの背後に立ち上る煙など、中東戦争の AI 画像も販売している。

イスラエルのハマス戦闘員は、何者かが作成した偽の写真によって危険にさらされている。写真4 — Adobe は、ガザでの戦闘の AI 生成画像を提供しています。

一部のサイトが、これらの画像を AI 生成画像であると表示せずに使い続けているため、批評家たちはこれを問題視している。たとえば、上記の画像は AI を使用して生成されたという表示なしに「Newsbreak」ページに表示されました。

欧州議会の科学部門である欧州議会調査局でさえ、中東紛争に関するオンライン文書にAdobeデータベースのAI画像を使用した図解を施したが、AI生成であるとは明記していなかった。

欧州デジタルメディア監視団は、ジャーナリストやメディア関係者に対し、AI画像を使用する際には細心の注意を払うよう呼びかけており、特にガザ戦争のような現実の出来事を報道する際には使用しないよう勧告している。

AI画像はどれくらい危険ですか?

AI コンテンツや画像が急速に広まり、ユーザーはオンラインで遭遇するあらゆるものに対して不安を感じています。「画像、音声、動画が操作できる世界に入ると、すべてが疑わしくなります。ですから、真実を含め、すべてを信じられなくなってしまうのです」とカリフォルニア大学バークレー校の研究者ファリド氏は説明する。

まさに次の事件が起こった。イスラエルの赤ん坊の黒焦げの死体と思われる画像が、イスラエルのベンヤミン・ネタニヤフ首相と他の政治家数名によってソーシャルメディアで共有されたのだ。

反イスラエルのインフルエンサー、ジャクソン・ヒンクル氏は後に、この画像は人工知能を使って作成されたものだと主張した。ヒンクル氏の声明はソーシャルメディア上で2000万回以上閲覧され、プラットフォーム上で白熱した議論を巻き起こした。

最終的に、多数の組織と検証ツールがこの画像は本物であり、ヒンクル氏の主張は虚偽であると宣言した。しかし、ユーザーが失った信頼を簡単に取り戻すのに役立つツールは明らかに存在しません。

ホアンハイ（DWによる）

[広告2]
ソース