最近、ピンクのストラップレスドレスやその他のセクシーな衣装を着たユーザーの画像が多くのソーシャルメディアアカウントで共有され、多くのユーザーから好意的な反応を得ています。これらはすべて、中国の写真アプリがリリースした「AIワードローブ」という新機能によるものだ。ユーザーは、キャラクターの顔が写ったオリジナルの写真と、いくつかの簡単な手順だけで、イブニングドレス、子供服から「生地を節約する」デザインまで、70 種類を超える衣服デザインから選択できます。処理と編集のプロセス全体はわずか数秒で完了し、システムは元の写真のシーンと人物の詳細を保持し、選択したキャラクターの衣装のみを変更します。
このアプリの人工知能 (AI) 処理機能は非常にリアルなので、編集ツールの産物だと気づかない人も多いです。このソフトウェアは、ほんの短期間でコミュニティの注目を集め、面白くてユーモラスな画像とともに広まりました。しかし、いつものように、興奮とともに、このツールを悪用するリスクやセキュリティリスクについての懸念も多くあります。
AI編集された画像や衣装はユーザーデータ漏洩の危険がある
ディープフェイクのような AI は、動画内で顔を変更したり、合成したり、リアルな動きを作成したりできる機能により、多くの論争を巻き起こしてきましたが、その多くは悪意を持って作成されています。したがって、テクノロジーの介入をほとんど感じさせずにツールでリアルに衣服を変更できるという事実は、誰かがそれを利用して写真を組み合わせて否定的な偽のメッセージを送信すると、いたずらが行き過ぎになる可能性を高めます。
国家サイバーセキュリティ協会（NCA）の技術研究部門責任者であるヴー・ゴック・ソン氏は、AI写真編集アプリケーションがソーシャルネットワーキングプラットフォーム上で突然再び「熱を帯び」ており、最新のものは前述の衣服や衣装編集ソフトウェアであることに気づきました。これらのトレンドは、テクノロジーを使用して、ユーザーをすぐに惹きつける面白くてユニークな画像を作成しますが、プログラムにはデバイス上の写真フォルダーへのアクセスが必要であることに注意してください。
「これは極めて機密性の高いアクセス権であり、個人情報漏洩のリスクが非常に高い」とヴー・ゴック・ソン氏は強調した。彼によれば、現在のAIの発展により、画像は非常に貴重なデータとなっている。 AI は、写真だけから、その人が誰なのか、何に興味があるのか、普段どこに行くのか、誰と知り合いなのかまで知ることができます。これにより、データマイニングおよび利用企業に画像を収集して再販するビジネスの機会も生まれます。直接的な結果として、ユーザーは多くの迷惑な広告を受け取ることになるかもしれません。長期的には、写真は詐欺や恐喝などの他の目的に使用される可能性があります。
公安部は2月20日、全国の携帯電話ユーザーに対し、インターネット上で公開されている画像や動画を悪用し、編集、カット、組み合わせてセンシティブなコンテンツを作成し、脅迫や恐喝の目的で使用することについて、テキストメッセージ（SMS）で警告を発した。
「アプリケーションの出所がよくわからない場合は、このようなプログラムをダウンロードすべきではない。サイバースペースは危険だが、データが漏洩するかどうかは、あなた自身の認識次第でもある」とヴー・ゴック・ソン氏は警告した。サイバーセキュリティの専門家は、新しいトレンドも含め、あらゆる状況において、ユーザーに対し、ソーシャルネットワークで数分間の楽しみのために、個人データ、特に自分自身や愛する人の顔データを交換しないよう注意するようアドバイスしています。
[広告2]
出典: https://thanhnien.vn/canh-giac-voi-cac-ung-dung-chinh-sua-anh-bang-ai-185250221085605624.htm
コメント (0)