اليونسكو: أدوات الذكاء الاصطناعي متحيزة ضد المرأة

[إعلان 1]

تعتمد العديد من أدوات الذكاء الاصطناعي الأكثر شعبية في العالم على برامج متحيزة ضد المرأة، والتي طورتها شركات مثل OpenAI وMeta. وهذه هي نتيجة دراسة جديدة أعلنت عنها منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو) في السابع من مارس/آذار.

وتستخدم أكبر الشركات في سباق الذكاء الاصطناعي الآن كميات هائلة من البيانات من الإنترنت لتدريب الخوارزميات، المعروفة باسم نماذج اللغة الكبيرة (LLMs). قامت اليونسكو باختبار خوارزمية Llama 2 من Meta وخوارزميات GPT-2 وGPT-3.5 من OpenAI المستخدمة في تطبيق الدردشة الشهير ChatGPT. وأظهرت نتائج الاختبار أن كل واحدة من هذه الخوارزميات أظهرت أدلة واضحة على التحيز ضد المرأة.

وأظهرت النتائج أن النصوص المتعلقة بأسماء الإناث التي تم إنشاؤها بواسطة هذه الأدوات غالبًا ما تحتوي على كلمات مثل "المنزل" أو "العائلة" أو "الأطفال"، في حين أن النصوص المتعلقة بأسماء الذكور غالبًا ما تحتوي على كلمات مثل "الأعمال" أو "الراتب" أو "المهنة"؛ غالبًا ما يتم تصوير الرجال في وظائف مثل المعلمين والمحامين والأطباء؛ غالبًا ما ترتبط النساء بوظائف مثل الطبخ والأعمال المنزلية وما إلى ذلك.

دو كاو

[إعلان 2]
مصدر