Остерегайтесь злодеев, использующих ИИ для пересадки лиц жертв с целью угроз и шантажа

В отличие от предыдущего периода, когда доступ к искусственным инструментам для создания Deepfake-видео был довольно ограничен, многие инструменты ИИ, такие как Grok, ChatGPT, Meta AI, Gemeni, DeepSeek, получили широкое распространение и позволяют бесплатно использовать основные функции, включая создание изображений. Пользователи могут создавать желаемую форму или даже обрезать и редактировать изображения, не обладая знаниями в области специализированных методов обработки. Это привело к увеличению использования ИИ для создания лиц в различных целях: от развлечения до угроз в Интернете.

Г-жа ЙН (округ 1, Хошимин) рассказала, что однажды она стала жертвой манипуляции изображениями с помощью искусственного интеллекта, который угрожал людям, и с нее потребовали большую сумму денег, если она захочет получить «конфиденциальные» данные, хотя все они были созданы с помощью инструментов искусственного интеллекта. В частности, преступники собрали ее личные фотографии, отредактировали их лица, создав непристойный контент, создали конфиденциальные чаты, а затем разыскали г-жу ЯН, чтобы шантажировать ее.

Преступники используют ИИ для редактирования, обрезки и шантажа жертв

«Они показали мне скриншоты фейковых чатов, изображений и видео, которые они создали, и запросили 100 миллионов донгов за удаление контента. Я должна признать, что составные изображения невозможно распознать как настоящие или поддельные», — поделилась жертва, добавив, что она сообщила властям о вышеуказанном поведении.

Случай с г-жой Янь — лишь один из многих недавних инцидентов, связанных со злоупотреблением ИИ и инструментами редактирования изображений в вредоносных целях. В настоящее время пользователи социальных сетей во Вьетнаме по-прежнему весьма «беззаботно» делятся личными фотографиями, фотографиями друзей и родственников в сети и публично, несмотря на многочисленные предостережения экспертов в области информационной безопасности по этому поводу.

Недавно Министерство общественной безопасности также разослало пользователям телефонов предупреждение о появлении преступников, которые используют общедоступные в Интернете изображения и видео людей, а затем редактируют, вырезают и объединяют их для создания конфиденциального контента с целью угроз и шантажа. «Людям рекомендуется проявлять бдительность при получении сообщений или звонков с вышеуказанным содержанием, а также не переводить деньги в случае угроз. При обнаружении признаков мошенничества или вымогательства имущества следует незамедлительно сообщить в ближайшее отделение полиции и через приложение VNeID», — говорится в уведомлении.

Помимо шантажа, преступники также могут использовать многочисленные публичные личные изображения и видео жертвы для создания фейкового контента с целью опорочить репутацию в рабочей среде, совершить личную месть и нанести ущерб духу и чести. Примечательно, что эти поддельные документы становятся все более изощренными и их все труднее распознать как обычному человеку, так и тем, кто интересуется сферой искусственного интеллекта.

Исследование, проведенное Tidio — польской компанией, специализирующейся на разработке чат-ботов на основе искусственного интеллекта для поддержки продаж, — в конце прошлого года показало, что большинство интернет-пользователей все чаще испытывают трудности с различением изображений, созданных с помощью искусственного интеллекта. Компания утверждает, что до 87% участников путали фотографии ИИ с фотографиями реальных людей. Кроме того, 62% респондентов проявили интерес к ИИ и машинному обучению, однако половина из этой группы не смогла правильно идентифицировать изображения, созданные искусственным интеллектом.

В настоящее время не существует конкретных правил использования ИИ в киберпреступности, однако использование изображений других людей для угроз, шантажа или распространения ложной информации по-прежнему может рассматриваться в соответствии с положениями, касающимися преступлений, связанных с унижением других лиц, вымогательством имущества или распространением непристойной культурной продукции.

Столкнувшись с этой ситуацией, эксперты рекомендуют пользователям проявлять осторожность при публикации личных изображений в социальных сетях и использовать инструменты безопасности для контроля конфиденциальности.

Источник: https://thanhnien.vn/canh-giac-ke-xau-loi-dung-ai-ghep-mat-nan-nhan-de-de-doa-tong-tien-185241107153341681.htm