政治ディープフェイクがAIの悪意ある利用法のトップに

Google DeepMindの調査によると、人間になりすます画像、動画、音声を作成することは、AIチャットボットなどのツールを使用して誤情報を作成することのほぼ2倍一般的です。

分析の結果、合成AIを悪用する行為者の最も一般的な目的は、世論を形成したり影響を与えたりすることであることが判明した。この数字は使用量の27％を占めており、ディープフェイクが今年の世界各地の選挙にどのような影響を与えるかという懸念が生じている。

総選挙を前に、リシ・スナック英首相の偽画像がTikTokやインスタグラムに登場した。写真：AFP

ここ数カ月、リシ・スナック英首相や他の世界の指導者のディープフェイクがTikTok、X、インスタグラムに登場している。英国の有権者は来週、総選挙に投票に行く。

ソーシャルメディアがそのようなコンテンツにラベルを付けたり削除したりする努力をしているにもかかわらず、視聴者がそれを偽物だと認識せず、その拡散が有権者に影響を与える可能性があるという懸念がある。

アラン・チューリング研究所の研究員アルディ・ジャンジェバ氏は、AIによって生成された公開情報が「社会政治的現実に対する我々の共通理解を歪める可能性がある」とする論文の調査結果を「特に関連性が高い」と述べた。

「ディープフェイクが投票行動に与える影響については確信が持てないとしても、この歪みは短期的には検出が難しく、民主主義に長期的なリスクをもたらす可能性がある」とジャンジェバ氏は付け加えた。

「こうしたツールを使って行われる非常に高度なサイバー攻撃については、多くの懸念が寄せられている」と、グーグル・ディープマインドでこの研究の主執筆者である研究者ナヘマ・マルシャル氏は述べた。

Google DeepMindとJigsawの研究者らは、ソーシャルネットワークXやReddit、オンラインブログやメディアの誤用に関する報道から収集した、2023年1月から2024年3月までのAIの誤用事例約200件を分析した。

不正行為の2番目に多い動機は収益化であり、これには実在の人物のヌード写真を作成したり、AIを使用して偽のニュース記事などのさまざまなコンテンツを生成したりすることが含まれます。ほとんどのシナリオでは、「最小限の技術的専門知識を必要とする」アクセス可能なツールが使用されるため、多くの悪意のある人物がクリエイティブ AI を悪用する可能性があります。

ゴック・アン（FTによる）

出典: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-sach-su-dung-ai-doc-hai-post300851.html