ميزة الذاكرة طويلة المدى في ChatGPT هي ميزة جديدة قدمتها OpenAI في فبراير 2024 وتم توسيعها في سبتمبر.
ومؤخراً، كشف الباحث الأمني يوهان ريهبرجر عن ثغرة خطيرة تتعلق بهذه الميزة.
ومن المعروف أن هذه الميزة الجديدة تساعد روبوتات الدردشة على تخزين المعلومات من المحادثات السابقة. بفضل هذا، لن يحتاج المستخدمون إلى إعادة إدخال معلومات مثل العمر أو الاهتمامات أو وجهات النظر الشخصية في كل مرة يتحدثون فيها. ومع ذلك، فقد أصبح هذا بمثابة نقطة ضعف يستغلها المهاجمون.
أظهر يوهان ريهبرجر أن القراصنة يمكنهم استخدام تقنية تسمى الحقن الفوري - حقن تعليمات ضارة في الذاكرة، مما يجبر الذكاء الاصطناعي على الانصياع. سيتم حقن هذه الأوامر من خلال محتوى غير موثوق به مثل رسائل البريد الإلكتروني أو المستندات أو صفحات الويب.
وبمجرد تخزين هذه الذكريات المزيفة، سيستمر الذكاء الاصطناعي في استخدامها كمعلومات حقيقية في المحادثات مع المستخدمين. وقد يؤدي هذا إلى جمع واستخدام غير مصرح به للبيانات الشخصية للمستخدمين.
قدم ريهبرجر مثالاً محددًا من خلال إرسال رابط يحتوي على صورة ضارة تسببت في قيام ChatGPT بتخزين ذاكرة خاطئة. ستؤثر هذه المعلومات على ردود ChatGPT لاحقًا. وعلى وجه الخصوص، سيتم أيضًا إرسال أي معلومات يدخلها المستخدم إلى خادم المخترق.
وبناءً على ذلك، لتفعيل الهجوم، يحتاج المتسللون فقط إلى إقناع مستخدمي ChatGPT بالنقر فوق رابط يحتوي على صورة ضارة. سيتم بعد ذلك إعادة توجيه جميع محادثات المستخدم مع ChatGPT إلى خادم المهاجم دون ترك أي أثر.
في مايو 2024، بعد اكتشاف الخلل، أبلغ ريهبرجر شركة OpenAi بذلك، لكن الشركة اعتبرته مجرد خلل أمني. بعد تلقي أدلة على سرقة بيانات المستخدم المحتملة، أصدرت الشركة تصحيحًا مؤقتًا على إصدار الويب من ChatGPT.
ورغم إصلاح المشكلة مؤقتًا، أكد ريهبرجر أن المحتوى غير الموثوق به لا يزال بإمكانه استخدام حقن Prompt لإدراج معلومات مزيفة في الذاكرة طويلة المدى لبرنامج ChatGPT. وهذا يعني أنه في بعض الحالات، لا يزال بإمكان المتسللين استغلال الثغرة الأمنية لتخزين ذكريات ضارة لسرقة المعلومات الشخصية على المدى الطويل.
توصي OpenAI المستخدمين بالتحقق بانتظام من ذاكرة التخزين المؤقت لـ ChatGPT بحثًا عن نتائج إيجابية خاطئة. وفي الوقت نفسه، توفر الشركة أيضًا تعليمات مفصلة حول كيفية إدارة وحذف الذكريات المحفوظة في هذه الأداة.
[إعلان رقم 2]
المصدر: https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html
تعليق (0)