ディープフェイク動画を作成するための人工ツールへのアクセスがかなり制限されていた以前の時期とは対照的に、Grok、ChatGPT、Meta AI、Gemeni、DeepSeekなどの多くのAIツールが広くリリースされ、画像作成を含む基本的な機能を無料で使用できるようになりました。ユーザーは、特殊な処理技術を理解していなくても、希望の形状を作成したり、切り取ったり編集したりすることができます。これにより、娯楽からインターネット上の脅威に至るまで、さまざまな目的で顔を作成するための AI の使用が増加しました。
YNさん（ホーチミン市1区）は、かつて人々を脅迫するためのAIベースの画像操作の被害者となり、すべて人工知能ツールによって作成されたものであったにもかかわらず、「機密」データを回復するには多額の金銭を支払うよう求められたと語った。具体的には、犯罪者たちが彼女の個人的な画像を集め、顔を加工して悪質なコンテンツを作成し、センシティブなチャットを作成し、その後、YNさんを探し出して脅迫したのです。
犯罪者はAIを使って被害者を編集、切り取り、脅迫する
「彼らは偽のチャット、画像、動画のスクリーンショットを見せ、コンテンツを削除するのに1億ドンを要求しました。合成画像は本物か偽物か判別できないと言わざるを得ません」と被害者は語り、上記の行為を当局に報告したと付け加えた。
YNさんの事件は、AIや画像編集ツールが悪意ある目的で悪用された最近の多くの事件のうちの1つにすぎません。現在、ベトナムのソーシャル ネットワーク ユーザーは、情報セキュリティ分野の専門家がこの件に関して多くの警告を発しているにもかかわらず、依然として、個人の画像、友人、親戚をオンライン上や公に共有することに非常に「気楽」である。
公安部も最近、インターネット上に公開されている人々の画像や動画を悪用し、編集、カット、組み合わせてセンシティブなコンテンツを作成し、脅迫や恐喝を目的とする犯罪者が出現していると携帯電話ユーザーに警告を発した。 「上記のような内容のメッセージや電話を受けた場合は警戒し、脅迫されても送金しないよう注意する。詐欺や財産強奪の兆候に気付いた場合は、最寄りの警察機関に速やかに通報し、VNeIDアプリを通じて報告する」と通知には記されている。
脅迫目的に加えて、犯罪者は被害者の公開されている多数の個人画像やビデオを使用して偽のコンテンツを作成し、職場環境での評判を中傷したり、個人的な復讐を行ったり、精神と名誉に損害を与えたりすることもあります。特に、これらの偽造文書はますます巧妙化しており、一般の人々にとっても人工知能分野に関心のある人々にとっても見分けることが困難になっています。
販売支援用のAIチャットボットの開発を専門とするポーランド企業Tidioが昨年末に行った調査によると、インターネットユーザーの大多数はAIが作成した画像を区別するのがますます困難になっていることが分かった。同社によれば、参加者の最大87%がAIの写真と実際の人物の写真を混同したという。さらに、回答者の 62% が AI と機械学習に興味を示しましたが、このグループの半数は人工知能によって生成された画像を正しく識別できませんでした。
現在、サイバー犯罪におけるAIの使用に関する具体的な規制はないが、他人の画像を使用して脅迫、恐喝、または虚偽の情報の拡散を行うことは、依然として、他人を辱める、財産を強要する、またはわいせつな文化製品を拡散する犯罪に関連する規定に基づいて対処される可能性がある。
このような状況に直面して、専門家は、ユーザーがソーシャル ネットワーク上で個人の画像を共有する際には注意し、セキュリティ ツールを使用してプライバシーを管理することを推奨しています。
[広告2]
出典: https://thanhnien.vn/canh-giac-ke-xau-loi-dung-ai-ghep-mat-nan-nhan-de-de-doa-tong-tien-185241107153341681.htm
コメント (0)