ガザ戦争のディープフェイクがAIへの懸念を呼ぶ

[広告_1]

オンラインプラットフォーム上で何百万回も閲覧されているこれらの画像は、人工知能を使用して作成されたディープフェイク画像です。よく見ると、奇妙に曲がった指や不自然な光で輝く目など、明らかな手がかりが見つかります。

しかしながら、これらのディープフェイク画像が引き起こした怒りは現実のものである。

イスラエルとハマスの戦争の写真は、本物そっくりの画像を作成するために使用されるプロパガンダのツールとしての AI の危険性を鮮明かつ痛々しく示しています。

先月戦闘が始まって以来、ソーシャルメディア上で出回っているデジタル加工された写真は、犠牲者の責任について虚偽の主張をしたり、実際には起こっていない残虐行為について人々を誤解させたりするために使われてきた。

ガザ戦争のディープフェイク画像が新たな懸念を呼ぶ写真 1 — パレスチナ人がガザの瓦礫の中から所持品を拾い集めている。 APフォト

技術の進歩はますます頻繁に起こっており、監視はほとんど行われていません。これにより、AI が別の形の武器になるリスクが明確になり、将来の紛争、選挙、その他の大きな出来事で何が起こるかを早期に垣間見ることができます。

「状況は良くなる前に、さらに悪化するだろう」と、AIを使ってオンライン苦情の妥当性を評価するサンフランシスコとパリに拠点を置くテクノロジー企業CREOpointのCEO、ジャン＝クロード・ゴールデンスタイン氏は語った。

彼の会社は、ガザから出てきた最も話題になっているディープフェイク画像のデータベースをまとめた。「画像、ビデオ、オーディオ：クリエイティブAIにより、これはこれまでに見たことのないような進歩となるでしょう」と彼は語った。

戦争による偽情報を追跡する非営利団体「デジタルヘイト対策センター」のイムラン・アーメド最高経営責任者（CEO）は、このような画像を作成するプロパガンダ担当者は人々の心の奥底にある衝動や不安を狙うのが上手だと語った。

画像が恐ろしいほど、ユーザーがそれを覚えて共有する可能性が高くなり、意図せず誤った情報がさらに広まることになります。ロシアとウクライナの紛争後、AI が生成した同様の虚偽コンテンツが実際に広まり始めた。

新たな紛争や選挙シーズンが起こるたびに、偽情報が流れる機会が生まれます。このため、多くのAI専門家や政治学者は、米国、インド、パキスタン、ウクライナ、インドネシア、メキシコなど、いくつかの国で大規模な選挙が行われる来年にリスクがあると警告している。

AIとソーシャルメディアがアメリカの有権者に嘘を広めるのに利用される危険性は、ワシントンの両党の議員を警戒させている。ディープフェイク技術の危険性に関する最近の公聴会で、バージニア州民主党のジェリー・コノリー下院議員は、米国は他のAIに対抗するために設計されたAIツールの開発に資金を投入する必要があると述べた。

バッファロー大学のデビッド・ドーマン教授は、AIによって生成された誤情報によってもたらされる政治的、社会的課題に効果的に対応するには、より優れた技術とより優れた規制の両方が必要になると述べた。

マイ・アン（AP通信による）

[広告2]
ソース