인공지능(AI)의 폭발적 성장은 분명한 추세를 가져왔습니다. 머신 러닝 시스템을 훈련하는 데 있어서의 편견은 현실 세계에서 차별적인 행동으로 이어진다는 것입니다.
영국과 중국의 과학자 그룹이 실시한 최근 연구에 따르면, 많은 자동차 제조업체에서 사용 중인 자율주행차에 장착된 보행자 감지 소프트웨어는 피사체가 유색인종이나 어린이인 경우 효과가 떨어질 수 있으며, 이러한 사람들이 교통 사고에 참여할 때 더 큰 위험에 처할 수 있다고 합니다.
성별에 따라 정확도 차이가 크지 않았지만, 연구자들은 AI 시스템이 피부색이 어두운 보행자를 인식하는 데 있어 정확도가 낮다는 것을 발견했습니다.
킹스 칼리지 런던의 컴퓨터 과학자이자 연구팀의 일원인 지에 장(Jie Zhang)은 "중요한 서비스를 많이 받지 못했던 소수 민족은 이제 심각한 사고 위험에 직면해 있다"고 말했습니다.
구체적으로 보고서는 이 시스템이 어린이보다 성인을 감지할 가능성이 19.67% 더 높고, 피부색이 어두운 사람을 감지할 가능성은 7.52% 더 낮다고 밝혔습니다.
"전반적으로 이 연구는 현재 보행자 감지 시스템이 직면한 공정성 문제에 빛을 비추고, 연령 및 피부색 관련 편견을 해결하는 것의 중요성을 강조합니다."라고 팀은 보고합니다. "획득한 통찰력은 미래에 더 공정하고 편파적이지 않은 자율 주행 시스템을 위한 길을 열 수 있습니다."
연구팀 구성원에 따르면, 그들의 보고서는 테슬라와 같은 회사가 자동차에 설치하는 정확한 소프트웨어를 사용하지 않았다. 이는 영업 비밀이기 때문이다. 대신 해당 연구는 기업에서 사용하는 유사한 오픈소스 AI에 의존했다.
"정책 입안자들이 모든 개인의 권리를 보호하고 이러한 우려를 적절히 해결하는 법률과 규정을 제정하는 것이 필수적입니다." 연구팀은 입법자들에게 자율주행차 소프트웨어 규제를 통해 감지 시스템의 편향을 방지할 것을 요구하고 있습니다.
(Insider에 따르면)
[광고2]
원천
댓글 (0)