인공지능(AI)의 폭발적인 성장은 분명한 추세를 가져왔습니다. 머신 러닝 시스템을 훈련하는 데 있어서의 편견은 실제 세계 에서 차별적인 행동으로 이어진다는 것입니다.
영국과 중국의 과학자 그룹이 실시한 최근 연구에 따르면, 많은 자동차 제조업체에서 사용하고 있는 자율주행차에 장착된 보행자 감지 소프트웨어는 대상이 유색인종이나 어린이일 경우 효과가 떨어질 수 있으며, 이로 인해 이러한 사람들이 교통 사고에 참여할 때 더 큰 위험에 처할 수 있다고 합니다.
성별에 따른 정확도 차이는 미미했지만, 연구진은 AI 시스템이 피부색이 어두운 보행자를 인식하는 데 있어 정확도가 떨어지는 것을 발견했습니다.
킹스 칼리지 런던의 컴퓨터 과학자이자 연구팀의 일원인 지에 장(Jie Zhang)은 "중요한 서비스를 많이 받지 못했던 소수 민족은 이제 심각한 사고 위험에 직면해 있다"고 말했습니다.
구체적으로 보고서는 이 시스템이 어린이보다 성인을 감지할 가능성이 19.67% 더 높고, 피부색이 어두운 사람을 감지할 가능성은 7.52% 더 낮다고 밝혔습니다.
연구팀은 논문에서 "전반적으로 이 연구는 현재 보행자 감지 시스템이 직면한 공정성 문제를 조명하고, 연령 및 피부 관련 편향을 해결하는 것의 중요성을 강조합니다."라고 기술했습니다. "이 연구를 통해 얻은 통찰력은 향후 더욱 공정하고 편향되지 않은 자율주행 시스템을 구축하는 데 도움이 될 것입니다."
연구팀 구성원에 따르면, 그들의 보고서는 테슬라와 같은 회사가 자동차에 설치하는 정확한 소프트웨어를 사용하지 않았습니다. 이는 영업 비밀이기 때문입니다. 대신 해당 연구는 기업에서 사용하는 유사한 오픈소스 AI에 의존했습니다.
"정책 입안자들이 모든 개인의 권리를 보호하고 이러한 우려를 적절히 해결하는 법률과 규정을 제정하는 것이 필수적입니다." 팀은 의원들에게 감지 시스템의 편향을 방지하기 위해 자율주행차 소프트웨어를 규제할 것을 촉구했습니다.
(인사이더에 따르면)
[광고_2]
원천
댓글 (0)