لقد أحدث الذكاء الاصطناعي (AI) مثل ChatGPT ضجة عالمية منذ أوائل عام 2023، ولكن هذا الذكاء الاصطناعي لا يُستخدم دائمًا لأغراض إيجابية. في الآونة الأخيرة، اكتشف أحد خبراء الأمن طريقة لطلب ChatGPT لتوليد تعليمات برمجية ضارة أثناء الاختبار.
شارك آرون مولجرو - خبير الأمن في شركة Forcepoint - مخاطر كتابة التعليمات البرمجية الضارة باستخدام روبوت المحادثة اللغوية الذي طورته شركة OpenAI. على الرغم من أن ChatGPT مصمم لمنع المستخدمين من مطالبة الذكاء الاصطناعي بتصميم تعليمات برمجية ضارة، إلا أن آرون وجد ثغرة من خلال إنشاء مطالبات تسمح للذكاء الاصطناعي بكتابة التعليمات البرمجية سطرًا بسطر. عندما تم الجمع بينهما، أدرك آرون أنه كان بين يديه أداة سرقة بيانات غير قابلة للكشف ومتطورة للغاية لدرجة أنها كانت قابلة للمقارنة مع أكثر البرامج الضارة تقدمًا في يومنا هذا.
يمكن أن يتحول كل سطر أوامر فردي تم إنشاؤه بواسطة ChatGPT، عند دمجه، إلى برنامج ضار متطور.
ويعد اكتشاف مولجرو بمثابة تحذير بشأن إمكانية استخدام الذكاء الاصطناعي لإنشاء برامج ضارة خطيرة دون الحاجة إلى مجموعة من القراصنة أو حتى سطر واحد من التعليمات البرمجية التي كتبها منشئ الأداة.
يأتي برنامج Mulgrew متخفيًا في صورة تطبيق شاشة توقف، ولكنه قادر على التنشيط تلقائيًا على الأجهزة التي تعمل بنظام Windows. بمجرد دخول البرنامج الخبيث إلى نظام التشغيل، فإنه يتسلل إلى كل ملف، بما في ذلك محرري نصوص Word وملفات الصور وملفات PDF، بحثًا عن البيانات التي يريد سرقتها.
بمجرد حصوله على ما يحتاج إليه، يقوم البرنامج بتقسيم المعلومات وإرفاقها بملفات الصور على الجهاز. لتجنب الكشف، تم تحميل هذه الصور إلى مجلد على خدمة التخزين السحابي Google Drive. أصبح البرنامج الخبيث قويًا للغاية لأن Mulgrew قادر على تعديل ميزاته وتعزيزها لتجنب اكتشافه من خلال الأوامر البسيطة التي يتم إدخالها في ChatGPT.
وعلى الرغم من أن هذه هي نتيجة اختبار خاص أجراه خبراء الأمن ولم يتم تنفيذ أي هجمات خارج نطاق الاختبار، إلا أن خبراء الأمن السيبراني ما زالوا يدركون خطورة الأنشطة التي تستخدم ChatGPT. يزعم مولجرو أن لديه خبرة قليلة في البرمجة، لكن الذكاء الاصطناعي الخاص بشركة OpenAI لم يكن قوياً أو ذكياً بما يكفي لإيقاف اختباره.
[إعلان 2]
رابط المصدر
تعليق (0)