L’explosion de l’intelligence artificielle (IA) a fait apparaître une tendance claire : les biais dans la formation des systèmes d’apprentissage automatique conduisent à un comportement discriminatoire dans le monde réel.
Une étude récente menée par un groupe de scientifiques au Royaume-Uni et en Chine montre que les logiciels de détection des piétons installés sur les véhicules autonomes - utilisés par de nombreux constructeurs automobiles - peuvent être moins efficaces lorsque les sujets sont des personnes de couleur ou des enfants, ce qui expose ces personnes à un risque accru lorsqu'elles participent à la circulation.
Bien que le sexe n’ait montré que de petites différences de précision, les chercheurs ont constaté que le système d’IA était moins précis pour reconnaître les piétons ayant une peau plus foncée.
« Les personnes issues de minorités qui se sont vu refuser de nombreux services importants sont désormais confrontées à de graves risques d'accident », a déclaré Jie Zhang, informaticien au King's College de Londres et membre de l'équipe de recherche.
Plus précisément, le rapport a noté que le système était 19,67 % plus susceptible de détecter les adultes que les enfants, et 7,52 % moins susceptible de détecter les personnes ayant une peau plus foncée.
« Globalement, cette recherche met en lumière les problèmes d'équité auxquels sont confrontés les systèmes actuels de détection des piétons, soulignant l'importance de s'attaquer aux biais liés à l'âge et à la peau », écrit l'équipe dans son article. « Les connaissances acquises pourraient ouvrir la voie à des systèmes de conduite autonome plus justes et impartiaux à l'avenir. »
Selon les membres de l'équipe de recherche, leur rapport n'a pas utilisé le logiciel exact que des entreprises comme Tesla installent dans leurs voitures, car il s'agit d'un secret commercial. Au lieu de cela, la recherche s'est appuyée sur des IA open source similaires utilisées par les entreprises.
« Il est essentiel que les décideurs politiques adoptent des lois et des réglementations qui protègent les droits de tous les individus et répondent de manière appropriée à ces préoccupations », a exhorté l'équipe à réglementer les logiciels de voitures autonomes afin d'éviter tout biais dans leurs systèmes de détection.
(Selon Insider)
Source
Comment (0)