لقد أدى انفجار الذكاء الاصطناعي إلى ظهور اتجاه واضح: التحيز في تدريب أنظمة التعلم الآلي يؤدي إلى سلوك تمييزي في العالم الحقيقي.
أظهرت دراسة حديثة أجراها مجموعة من العلماء في المملكة المتحدة والصين أن برامج الكشف عن المشاة المجهزة بالمركبات ذاتية القيادة - والتي تستخدمها العديد من شركات تصنيع السيارات - قد تكون أقل فعالية عندما يكون الأشخاص من ذوي البشرة الملونة أو الأطفال، مما يؤدي إلى تعرض هؤلاء الأشخاص لخطر أكبر عند المشاركة في حركة المرور.
ورغم أن الجنس أظهر اختلافات صغيرة فقط في الدقة، وجد الباحثون أن نظام الذكاء الاصطناعي كان أقل دقة في التعرف على المشاة ذوي درجات البشرة الداكنة.
وقال جيه تشانغ، عالم الكمبيوتر في كلية كينجز بلندن وعضو فريق البحث، "إن الأفراد من الأقليات الذين حرموا من العديد من الخدمات المهمة يواجهون الآن مخاطر حوادث خطيرة".
وعلى وجه التحديد، أشار التقرير إلى أن النظام كان أكثر قدرة بنسبة 19.67% على اكتشاف البالغين مقارنة بالأطفال، وأقل قدرة بنسبة 7.52% على اكتشاف الأشخاص ذوي لون البشرة الداكن.
"بشكل عام، يلقي هذا البحث الضوء على قضايا العدالة التي تواجهها أنظمة الكشف عن المشاة الحالية، ويسلط الضوء على أهمية معالجة التحيزات المرتبطة بالعمر ولون البشرة"، حسبما أفاد الفريق. "إن الرؤى المكتسبة قد تمهد الطريق لأنظمة قيادة ذاتية أكثر عدالة وحيادية في المستقبل."
وبحسب أعضاء فريق البحث، فإن تقريرهم لم يستخدم نفس البرنامج الذي تقوم شركات مثل تيسلا بتثبيته في سياراتها، لأن هذا سر تجاري، وبدلاً من ذلك اعتمد البحث على أنظمة الذكاء الاصطناعي مفتوحة المصدر المماثلة التي تستخدمها الشركات.
"ومن الضروري أن يسن صناع السياسات القوانين واللوائح التي تحمي حقوق جميع الأفراد وتعالج هذه المخاوف بشكل مناسب." ويدعو الفريق المشرعين إلى تنظيم برامج السيارات ذاتية القيادة لمنع التحيز في أنظمة الكشف الخاصة بها.
(وفقا لـ Insider)
[إعلان 2]
مصدر
تعليق (0)