تمكنت شركة مايكروسوفت من تحديد شبكة دولية من المجرمين الإلكترونيين كانت قادرة على تجاوز حماية خدمات الذكاء الاصطناعي التوليدي لإنشاء محتوى ضار، بما في ذلك صور المشاهير الحساسة وغيرها من المواد الإباحية.

قام المتسللون بجمع بيانات اعتماد الخدمة من مصادر عامة واستخدموها للوصول إلى خدمات الذكاء الاصطناعي التوليدي، بما في ذلك Azure OpenAI من Microsoft.

يقومون بعد ذلك بتعديل قدرات منتجات الذكاء الاصطناعي وبيع الوصول إليها إلى العصابات الإجرامية الأخرى، وتعليمهم كيفية إنشاء محتوى ضار.

هاكر d3sign/Moment RF
كشفت شركة مايكروسوفت علناً عن 4 قراصنة يبيعون أدوات لـ "تجاوز" خدمة الذكاء الاصطناعي. الصورة: d3sign/Moment RF

وفقًا لمايكروسوفت، هؤلاء الأفراد هم: أريان يادجارنيا (المعروف باسم فيز) من إيران، وآلان كريسياك (دراغو) من المملكة المتحدة، وريكي يوين (cg-dot) من هونج كونج (الصين)، وفات فونج تان (أساكوري) من فيتنام.

ويتهم الأربعة بالانتماء إلى شبكة الجريمة الإلكترونية Storm-2139. ويأتي شخصان آخران من الولايات المتحدة، لكن مايكروسوفت لم تكشف عن هوياتهما لضمان سلامة التحقيق.

وقالت مايكروسوفت إن Storm-2139 تنقسم إلى ثلاث مجموعات رئيسية: المبدعون، والبائعون، والمستخدمون النهائيون. يقوم المبدعون بإنشاء أدوات غير قانونية لإساءة استخدام خدمات الذكاء الاصطناعي التوليدي؛ ثم يقوم المورد بتعديله وتقديمه للمستخدم النهائي بأسعار وخدمات مختلفة؛ وأخيرًا، يستخدم المستخدمون الأداة لإنشاء محتوى ضار، غالبًا ما يدور حول نجوم وصور إباحية.

تم نشر هذه المعلومات من قبل شركة مايكروسوفت وسط تزايد المخاوف بشأن إساءة استخدام الذكاء الاصطناعي التوليدي لإنشاء صور مزيفة لكل من المشاهير والأشخاص العاديين، بالإضافة إلى صور إباحية للأطفال.

وتحظر شركات مثل مايكروسوفت وOpenAI هذه الممارسات وتتخذ التدابير الفنية لمنعها، ولكن مجموعات القراصنة مثل المجموعة المذكورة أعلاه لا تزال تجد طرقًا "للالتفاف على القواعد".

وبحسب ستيفن ماسادا، المستشار العام المساعد لوحدة الجرائم الرقمية في شركة مايكروسوفت، فإنهم يدركون التأثير الخطير والدائم الذي تخلفه الصور المسيئة على الضحايا.

تلتزم الشركة بحماية المستخدمين من خلال تضمين تدابير السلامة الخاصة بالذكاء الاصطناعي في المنصة وحماية الخدمة من المحتوى غير القانوني والضار.

في ديسمبر 2024، رفعت DCU دعوى قضائية في المنطقة الشرقية من فرجينيا (الولايات المتحدة الأمريكية) ضد 10 أفراد مجهولين شاركوا في أنشطة تنتهك القانون الأمريكي وسياسات Microsoft.

وأصدرت المحكمة أمرا قضائيا مؤقتا وأمر قضائيا أوليا يسمح لشركة مايكروسوفت بالاستيلاء على موقع ويب يستخدم في أنشطة إجرامية، مما يعطل قدرة المجموعة على العمل.

والجدير بالذكر أنه بعد هذا الإجراء، قام بعض الأعضاء المشتبه في انتمائهم إلى Storm-2139 بإرسال رسائل بريد إلكتروني إلى مستشاري Microsoft وإلقاء اللوم على بعضهم البعض.

وكتبت مايكروسوفت في منشور على مدونتها في 27 فبراير/شباط: "تؤكد هذه الاستجابة على تأثير الإجراءات القانونية التي اتخذتها مايكروسوفت وتوضح كيف يمكن للتدابير أن تعطل شبكات المجرمين الإلكترونيين بشكل فعال من خلال الاستيلاء على البنية الأساسية وخلق تأثير رادع قوي على الأعضاء".

(وفقا لمايكروسوفت وبلومبرج)