AIを使って被害者の顔を移植し、脅迫や恐喝を行う悪者に注意してください

ディープフェイク動画を作成するための人工ツールへのアクセスがかなり制限されていた以前の時期とは対照的に、Grok、ChatGPT、Meta AI、Gemeni、DeepSeek などの多くの AI ツールが広くリリースされ、画像作成を含む基本機能を無料で使用できるようになりました。ユーザーは、特殊な処理技術を理解していなくても、希望の形状を作成したり、切り取ったり編集したりすることができます。これにより、娯楽からインターネット上の脅威に至るまで、さまざまな目的で顔を作成するための AI の使用が増加しました。

YNさん（ホーチミン市1区）は、かつて人々を脅迫するためのAIベースの画像操作の被害に遭い、すべて人工知能ツールによって作成されたにもかかわらず、「機密」データを復元するには多額の金銭の支払いを要求されたと語った。具体的には、犯罪者たちが彼女の個人的画像を集め、顔写真を編集して悪質なコンテンツを作成し、センシティブなチャットを作成し、その後、YNさんを探し出して脅迫したのです。

犯罪者はAIを使って被害者を編集、切り取り、脅迫する

「彼らは偽のチャット、画像、動画のスクリーンショットを見せ、コンテンツを削除するために1億ドンを要求しました。合成画像は本物か偽物か判別不能だと言わざるを得ません」と被害者は語り、上記の行為を当局に通報したと付け加えた。

YNさんの事件は、AIや画像編集ツールを悪意ある目的で悪用した最近の多くの事件の1つにすぎません。現在、ベトナムのソーシャル ネットワーク ユーザーは、情報セキュリティ分野の専門家がこの件に関して何度も警告を発しているにもかかわらず、依然として非常に「気楽に」個人の画像や友人、親戚をオンライン上や公に共有している。

公安部も最近、インターネット上に公開されている人々の画像や動画を悪用し、編集、カット、組み合わせてセンシティブなコンテンツを作成し、脅迫や恐喝の目的で使用する犯罪者が出現していると携帯電話ユーザーに警告を発した。通知には、「上記のような内容のメッセージや電話を受けた場合は警戒を怠らず、脅迫されても送金を控えるよう勧告する。詐欺や財産強奪の兆候を察知した場合は、速やかに最寄りの警察署に通報し、VNeIDアプリから通報する」と記載されている。

恐喝目的に加えて、犯罪者は被害者の公開されている多数の個人的な画像やビデオを使用して偽のコンテンツを作成し、職場環境での評判を中傷したり、個人的な復讐を行ったり、精神と名誉に損害を与えたりすることもあります。特に、これらの偽造文書はますます巧妙化しており、一般の人々にとっても、人工知能分野に関心のある人々にとっても見分けることが困難になっています。

販売支援のためのAIチャットボットの開発を専門とするポーランド企業、ティディオが昨年末に行った調査によると、インターネットユーザーの大多数はAIが作成した画像を区別することがますます困難になっていることがわかった。同社によれば、参加者の最大87%がAIの写真と実際の人物の写真を混同したという。さらに、回答者の 62% が AI と機械学習に興味を示したものの、このグループの半数は人工知能によって生成された画像を正しく識別できませんでした。

現在、サイバー犯罪におけるAIの利用については具体的な規制はないが、他人の画像を利用して脅迫、恐喝、虚偽情報の拡散を行うことは、依然として、他人を辱める、財産を強奪する、またはわいせつな文化製品を拡散する犯罪に関する規定に基づいて取り扱われる可能性がある。

このような状況に直面して、専門家は、ユーザーがソーシャル ネットワーク上で個人の画像を共有する際には注意し、セキュリティ ツールを使用してプライバシーを管理することを推奨しています。

出典: https://thanhnien.vn/canh-giac-ke-xau-loi-dung-ai-ghep-mat-nan-nhan-de-de-doa-tong-tien-185241107153341681.htm