การระเบิดของปัญญาประดิษฐ์ (AI) นำมาซึ่งแนวโน้มที่ชัดเจน: อคติในการฝึกระบบการเรียนรู้ของเครื่องจักรนำไปสู่พฤติกรรมการเลือกปฏิบัติในโลกแห่งความเป็นจริง
การศึกษาล่าสุดโดยกลุ่มนักวิทยาศาสตร์ในสหราชอาณาจักรและจีนแสดงให้เห็นว่าซอฟต์แวร์ตรวจจับคนเดินถนนที่ติดตั้งในรถยนต์ขับเคลื่อนอัตโนมัติ ซึ่งผู้ผลิตยานยนต์หลายรายกำลังใช้ อาจมีประสิทธิผลน้อยลงหากบุคคลเหล่านั้นเป็นคนผิวสีหรือเด็ก ทำให้ผู้คนเหล่านี้มีความเสี่ยงมากขึ้นเมื่อเข้าร่วมการจราจร
แม้ว่าเพศจะแสดงความแตกต่างเพียงเล็กน้อยในความแม่นยำ แต่ผู้วิจัยพบว่าระบบ AI นั้นมีความแม่นยำน้อยกว่าในการจดจำคนเดินถนนที่มีโทนสีผิวเข้ม
“บุคคลกลุ่มน้อยที่ถูกปฏิเสธบริการสำคัญๆ หลายอย่างกำลังเผชิญกับความเสี่ยงที่จะเกิดอุบัติเหตุร้ายแรง” Jie Zhang นักวิทยาศาสตร์คอมพิวเตอร์จาก King's College London และหนึ่งในสมาชิกของทีมวิจัยกล่าว
โดยเฉพาะอย่างยิ่ง รายงานระบุว่าระบบดังกล่าวมีแนวโน้มที่จะตรวจจับผู้ใหญ่ได้มากกว่าเด็กถึง 19.67% และมีแนวโน้มที่จะตรวจจับผู้ที่มีโทนสีผิวเข้มน้อยกว่าถึง 7.52%
โดยรวมแล้ว การวิจัยครั้งนี้แสดงให้เห็นถึงปัญหาความเป็นธรรมที่ระบบตรวจจับคนเดินถนนต้องเผชิญในปัจจุบัน และเน้นย้ำถึงความสำคัญของการแก้ไขอคติที่เกี่ยวข้องกับอายุและสีผิว” ทีมงานรายงาน “ข้อมูลเชิงลึกที่ได้รับอาจนำไปสู่ระบบขับขี่อัตโนมัติที่ยุติธรรมและไม่มีอคติมากขึ้นในอนาคต”
ตามที่สมาชิกในทีมวิจัยระบุ รายงานของพวกเขาไม่ได้ใช้ซอฟต์แวร์ที่บริษัทอย่าง Tesla ติดตั้งในรถของพวกเขา เพราะถือว่านี่เป็นความลับทางการค้า แต่การวิจัยกลับพึ่งพา AI โอเพนซอร์สที่คล้ายคลึงกันที่ธุรกิจต่างๆ ใช้
“สิ่งสำคัญคือผู้กำหนดนโยบายจะต้องตรากฎหมายและข้อบังคับที่คุ้มครองสิทธิของบุคคลทั้งหมดและแก้ไขข้อกังวลเหล่านี้อย่างเหมาะสม” ทีมงานกำลังเรียกร้องให้ผู้กำหนดนโยบายควบคุมซอฟต์แวร์รถยนต์ขับเคลื่อนอัตโนมัติเพื่อป้องกันอคติในระบบการตรวจจับ
(ตามข้อมูลจาก Insider)
แหล่งที่มา
การแสดงความคิดเห็น (0)