자율주행차의 AI 안전 센서, 유색인종과 어린이에게는 정확도 낮다

[광고_1]

인공지능(AI)의 폭발적인 성장은 분명한 추세를 가져왔습니다. 머신 러닝 시스템을 훈련하는 데 있어서의 편견은 실제 세계에서 차별적인 행동으로 이어진다는 것입니다.

영국과 중국의 과학자 그룹이 실시한 최근 연구에 따르면, 많은 자동차 제조업체에서 사용하고 있는 자율주행차에 장착된 보행자 감지 소프트웨어는 대상이 유색인종이나 어린이일 경우 효과가 떨어질 수 있으며, 이로 인해 이러한 사람들이 교통 사고에 참여할 때 더 큰 위험에 처할 수 있다고 합니다.

자율주행차에 사용되는 AI는 유색인종과 어린이에게는 효과적이지 못한 경향이 있으며, 이는 심각한 사고로 이어질 수 있습니다.

성별에 따른 정확도 차이는 미미했지만, 연구진은 AI 시스템이 피부색이 어두운 보행자를 인식하는 데 있어 정확도가 떨어지는 것을 발견했습니다.

킹스 칼리지 런던의 컴퓨터 과학자이자 연구팀의 일원인 지에 장(Jie Zhang)은 "중요한 서비스를 많이 받지 못했던 소수 민족은 이제 심각한 사고 위험에 직면해 있다"고 말했습니다.

구체적으로 보고서는 이 시스템이 어린이보다 성인을 감지할 가능성이 19.67% 더 높고, 피부색이 어두운 사람을 감지할 가능성은 7.52% 더 낮다고 밝혔습니다.

연구팀은 "전반적으로 이 연구는 현재 보행자 감지 시스템이 직면한 공정성 문제에 빛을 비추고, 연령과 피부색 관련 편견을 해결하는 것의 중요성을 강조합니다."라고 보고했습니다. "획득된 통찰력은 미래에 더욱 공정하고 편견 없는 자율 주행 시스템을 위한 길을 열어줄 수 있습니다."

연구팀 구성원에 따르면, 그들의 보고서는 테슬라와 같은 회사가 자동차에 설치하는 정확한 소프트웨어를 사용하지 않았습니다. 이는 영업 비밀이기 때문입니다. 대신 해당 연구는 기업에서 사용하는 유사한 오픈소스 AI에 의존했습니다.

정책 입안자들이 모든 개인의 권리를 보호하고 이러한 우려를 적절히 해결하는 법률과 규정을 제정하는 것이 필수적입니다. 연구팀은 의원들에게 자율주행차 소프트웨어를 규제해 감지 시스템의 편향을 방지할 것을 촉구하고 있습니다.

(인사이더에 따르면)

[광고_2]
원천