Microsoft ha identificado una red cibercriminal internacional que logró eludir las protecciones de los servicios de inteligencia artificial generativa para crear contenido malicioso, incluidas fotografías confidenciales de celebridades y otra pornografía.

Los piratas informáticos recopilaron credenciales de servicio de fuentes públicas y las utilizaron para acceder a servicios de inteligencia artificial generativa, incluido Azure OpenAI de Microsoft.

Luego modifican las capacidades de los productos de IA y venden el acceso a otras bandas criminales, instruyéndolas sobre cómo crear contenido malicioso.

hacker d3sign/Momento RF
Microsoft reveló públicamente 4 hackers que venden herramientas para “eludir” el servicio de IA. Fotografía: d3sign/Moment RF

Según Microsoft, estos individuos son: Arian Yadegarnia (alias Fiz) de Irán, Alan Krysiak (Drago) del Reino Unido, Ricky Yuen (cg-dot) de Hong Kong (China) y Phat Phung Tan (Asakuri) de Vietnam.

Los cuatro están acusados ​​de pertenecer a la red de ciberdelincuencia Storm-2139. Otras dos personas son de Estados Unidos, pero Microsoft no ha revelado sus identidades para garantizar la seguridad de la investigación.

Storm-2139 está organizado en tres grupos principales: creadores, proveedores y usuarios finales, dijo Microsoft. Los creadores crean herramientas ilegales para abusar de los servicios de IA generativa; El proveedor luego lo modificará y lo ofrecerá al usuario final a diferentes precios y servicios; Por último, los usuarios utilizan la herramienta para crear contenido malicioso, que a menudo gira en torno a estrellas e imágenes porno.

La información fue publicada por Microsoft a medida que aumentan las preocupaciones sobre el mal uso de la IA generativa para crear imágenes falsas tanto de celebridades como de gente común, así como pornografía infantil.

Empresas como Microsoft y OpenAI prohíben estas prácticas y toman medidas técnicas para evitarlas, pero grupos de piratas informáticos como el mencionado anteriormente aún encuentran formas de "eludir las reglas".

Según Steven Masada, asesor general adjunto de la Unidad de Delitos Digitales (DCU) de Microsoft, reconocen el impacto grave y duradero que las imágenes abusivas tienen en las víctimas.

La empresa se compromete a proteger a los usuarios incorporando medidas de seguridad de IA en la plataforma y protegiendo el servicio contra contenido ilegal y dañino.

En diciembre de 2024, DCU presentó una demanda en el Distrito Este de Virginia (EE. UU.) contra 10 personas no identificadas que participaron en actividades que violaron la ley estadounidense y las políticas de Microsoft.

El tribunal emitió una orden de restricción temporal y una medida cautelar, permitiendo a Microsoft confiscar un sitio web utilizado para actividades delictivas, interrumpiendo así la capacidad del grupo para operar.

Cabe destacar que después de esta acción, algunos miembros sospechosos de pertenecer a Storm-2139 enviaron correos electrónicos a los asesores de Microsoft y se culparon entre sí.

“Esta respuesta subraya el impacto de las acciones legales de Microsoft y demuestra cómo las medidas pueden interrumpir eficazmente las redes cibercriminales al apoderarse de la infraestructura y crear un fuerte efecto disuasorio en los miembros”, escribió Microsoft en una publicación de blog el 27 de febrero.

(Según Microsoft, Bloomberg)