Компания Microsoft выявила международную сеть киберпреступников, которая смогла обойти защиту служб генеративного искусственного интеллекта и создать вредоносный контент, включая конфиденциальные фотографии знаменитостей и другую порнографию.

Хакеры собрали учетные данные служб из общедоступных источников и использовали их для доступа к службам генеративного ИИ, включая Azure OpenAI от Microsoft.

Затем они модифицируют возможности продуктов ИИ и продают доступ другим преступным группировкам, инструктируя их о том, как создавать вредоносный контент.

хакер d3sign/Момент RF
Microsoft публично раскрыла имена четырех хакеров, продающих инструменты для «обхода» службы ИИ. Фото: d3sign/Момент РФ

По данным Microsoft, этими людьми являются: Ариан Ядегарния (псевдоним Fiz) из Ирана, Алан Крысяк (Drago) из Великобритании, Рики Юэнь (cg-dot) из Гонконга (Китай) и Фат Фунг Тан (Asakuri) из Вьетнама.

Все четверо обвиняются в принадлежности к киберпреступной сети «Шторм-2139». Еще двое — граждане США, но Microsoft не раскрыла их личности в целях обеспечения безопасности расследования.

По словам Microsoft, Storm-2139 разделен на три основные группы: создатели, поставщики и конечные пользователи. Создатели создают незаконные инструменты для злоупотребления услугами генеративного ИИ; Затем поставщик модифицирует его и предлагает конечному пользователю по другим ценам и с другими услугами; Наконец, пользователи используют этот инструмент для создания вредоносного контента, часто связанного с порнозвездами и их изображениями.

Информация была опубликована компанией Microsoft на фоне растущей обеспокоенности по поводу неправомерного использования генеративного ИИ для создания поддельных изображений как знаменитостей, так и обычных людей, а также детской порнографии.

Такие компании, как Microsoft и OpenAI, запрещают подобные практики и принимают технические меры для их предотвращения, однако хакерские группы, подобные описанной выше, все равно находят способы «обойти правила».

По словам Стивена Масады, помощника генерального юрисконсульта отдела по борьбе с цифровыми преступлениями (DCU) компании Microsoft, они признают серьезность и долгосрочность воздействия оскорбительных изображений на жертв.

Компания стремится защищать пользователей, внедряя в платформу меры безопасности на основе искусственного интеллекта и защищая сервис от незаконного и вредоносного контента.

В декабре 2024 года DCU подал иск в Восточном округе Вирджинии (США) против 10 неустановленных лиц, которые занимались деятельностью, нарушающей законодательство США и политику Microsoft.

Суд вынес временное запретительное постановление и предварительный запрет, позволяющие Microsoft арестовать веб-сайт, используемый для преступной деятельности, что нарушит работу группировки.

Примечательно, что после этого события некоторые члены, подозреваемые в принадлежности к Storm-2139, отправили электронные письма консультантам Microsoft и обвинили друг друга.

«Этот ответ подчеркивает влияние правовых действий Microsoft и демонстрирует, как меры могут эффективно пресекать деятельность сетей киберпреступников путем захвата инфраструктуры и создания сильного сдерживающего эффекта для участников», — написала Microsoft в своем блоге 27 февраля.

(По данным Microsoft, Bloomberg)