الذكاء الاصطناعي يقع تحت الضغط والتوتر

[إعلان 1]

من المعروف منذ فترة طويلة أن الذكاء الاصطناعي "يهلوس" ويقدم إجابات ملفقة وغير دقيقة. ومع ذلك، اكتشف الباحثون مؤخرًا أن الذكاء الاصطناعي ونماذج روبوتات الدردشة (روبوتات الرد الآلي) يمكن التلاعب بها، وارتكاب أعمال غير قانونية نيابة عن البشر وحتى الكذب للتغطية على ما فعلوه.

وبناء على ذلك، افترض فريق بحثي من جامعة كورنيل (الولايات المتحدة الأمريكية) حالة حيث تصرف نموذج لغوي كبير (LLM) بشكل غير صحيح وخدع المستخدمين. وفي وصف التجربة، قال الباحثون إنهم طلبوا من برنامج ماجستير القانون GPT-4 التابع لشركة OpenAI محاكاة إجراء استثمارات للمؤسسات المالية. وتفاعلت المجموعة مع الذكاء الاصطناعي في صيغة محادثة عادية، لكن إعداد الذكاء الاصطناعي كان قادرًا على الكشف عن "أفكاره" أثناء تبادل الرسائل النصية للحصول على نظرة أقرب على عملية اتخاذ القرار الخاصة بالذكاء الاصطناعي.

Dưới áp lực, AI có thể thực hiện hành vi sai trái và nói dối để che đậy việc đã làm — تحت الضغط، يمكن للذكاء الاصطناعي أن يرتكب مخالفات ويكذب للتغطية على ما فعله.

ومن أجل اختبار قدرة الذكاء الاصطناعي على الكذب أو الغش، وضع الباحثون الأداة تحت الضغط. لقد أرسلوا - بصفتهم مدير مؤسسة مالية - بريدًا إلكترونيًا إلى الذكاء الاصطناعي، متظاهرين بأنهم تجار أسهم، يشكون من أن أعمال الشركة لا تسير على ما يرام.

كما تلقت منظمة العفو الدولية "معلومات داخلية" حول تداولات الأسهم المربحة وتصرفت بناءً عليها، مع العلم أن التداول من الداخل كان مخالفًا لقواعد الشركة. ولكن عند تقديم التقارير إلى الإدارة، كان نموذج اللغة يخفي الأسباب الحقيقية وراء قرارات التداول.

للحصول على المزيد من النتائج، أجرى الفريق تغييرات على الإعدادات مثل إزالة وصول LLM إلى جدول المنطق، ومحاولة منع السلوك المنحرف عن طريق تغيير تعليمات النظام، وتغيير مستوى الضغط الواقع على الذكاء الاصطناعي، وخطر الوقوع في الفخ... ولكن بعد تقييم التردد، وجد الفريق أنه عندما أتيحت الفرصة، قرر GPT-4 إجراء تداول داخلي بنسبة تصل إلى 75٪ من الوقت.

وخلص التقرير إلى أنه "على حد علمنا، هذا هو أول دليل على سلوك خادع مخطط له في أنظمة الذكاء الاصطناعي المصممة لتكون غير ضارة بالبشر وصادقة".

[إعلان 2]
رابط المصدر