قراصنة يستخدمون الذكاء الاصطناعي لمهاجمة نظام Gemini التابع لشركة Google

وفقًا لـ BGR ، نشر تقرير بحثي جديد للتو تقنية مثيرة للقلق تسمى "Fun-Tuning"، عند استخدام الذكاء الاصطناعي نفسه لإنشاء هجمات حقن سريعة فعالة للغاية تستهدف نماذج الذكاء الاصطناعي المتقدمة الأخرى، بما في ذلك Gemini من Google.

وتجعل هذه الطريقة اختراق الذكاء الاصطناعي أسرع وأرخص وأسهل من أي وقت مضى، وهو ما يمثل تصعيدًا جديدًا في معركة الأمن السيبراني التي تنطوي على الذكاء الاصطناعي.

الخطر عندما يستخدم الأشرار الذكاء الاصطناعي لتدمير الذكاء الاصطناعي

الحقن الفوري هو تقنية يقوم فيها المهاجم بإدراج تعليمات ضارة في بيانات الإدخال الخاصة بنموذج الذكاء الاصطناعي (على سبيل المثال، عبر التعليقات في الكود المصدر، أو النص المخفي على الويب). الهدف هو "خداع" الذكاء الاصطناعي، وإجباره على تجاوز قواعد السلامة المبرمجة مسبقًا، مما يؤدي إلى عواقب وخيمة مثل تسريب البيانات الحساسة، أو تقديم معلومات كاذبة، أو القيام بسلوكيات خطيرة أخرى.

يستخدم المتسللون الذكاء الاصطناعي لمهاجمة الذكاء الاصطناعي

الصورة: لقطة شاشة من لينكدإن

في السابق، كان تنفيذ هذه الهجمات بنجاح، وخاصة على النماذج "المغلقة" مثل Gemini أو GPT-4، يتطلب في كثير من الأحيان قدرًا كبيرًا من الاختبارات اليدوية المعقدة والتي تستغرق وقتًا طويلاً.

لكن Fun-Tuning غيّر اللعبة تمامًا. وتستغل هذه الطريقة، التي طورها فريق من الباحثين من جامعات متعددة، بذكاء نفس واجهة برمجة التطبيقات (API) الدقيقة التي تقدمها Google مجانًا لمستخدمي Gemini.

من خلال تحليل ردود الفعل الدقيقة لنموذج Gemini أثناء الضبط (على سبيل المثال، كيفية استجابته للأخطاء في البيانات)، يمكن لـ Fun-Tuning تحديد "البادئات" و"اللاحقات" الأكثر فعالية لإخفاء عبارة ضارة تلقائيًا. ويؤدي هذا إلى زيادة احتمالية أن يتبع الذكاء الاصطناعي النوايا الخبيثة للمهاجم بشكل كبير.

تظهر نتائج الاختبار أن Fun-Tuning يحقق معدل نجاح يصل إلى 82% في بعض إصدارات Gemini، وهو رقم يتجاوز أقل من 30% من طرق الهجوم التقليدية.

ما يزيد من خطورة تقنية Fun-Tuning هو أن تكلفة التنفيذ منخفضة للغاية. نظرًا لأن واجهة برمجة التطبيقات الخاصة بـ Google متاحة مجانًا، فإن التكلفة الحسابية لإنشاء هجوم فعال قد تصل إلى 10 دولارات فقط. وعلاوة على ذلك، اكتشف الباحثون أن الهجوم المصمم لإصدار واحد من برنامج Gemini يمكن تطبيقه بسهولة بنجاح على إصدارات أخرى، مما يفتح الباب أمام خطر شن هجمات واسعة النطاق.

أكدت شركة جوجل أنها على علم بالتهديد الذي تشكله تقنية Fun-Tuning ولكنها لم تعلق بعد على ما إذا كانت ستغير طريقة عمل واجهة برمجة التطبيقات الخاصة بالتعديل. ويشير الفريق أيضًا إلى الصعوبة الدفاعية المتمثلة في أنه إذا تمت إزالة المعلومات التي يستغلها Fun-Tuning من عملية الضبط، فإن واجهة برمجة التطبيقات تصبح أقل فائدة للمطورين الحقيقيين. على العكس من ذلك، إذا بقي الوضع على ما هو عليه، فإنه سيظل بمثابة نقطة انطلاق للأشرار لاستغلالها.

ويشكل ظهور "فن-تونينج" تحذيراً واضحاً من أن المواجهة في الفضاء الإلكتروني دخلت مرحلة جديدة وأكثر تعقيداً. لم يعد الذكاء الاصطناعي الآن مجرد هدف فحسب، بل أصبح أيضًا أداة وسلاحًا في أيدي الجهات الخبيثة.

المصدر: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm