KI-Sicherheitssensoren in selbstfahrenden Autos sind für Farbige und Kinder weniger genau

Die explosionsartige Verbreitung künstlicher Intelligenz (KI) hat einen klaren Trend mit sich gebracht: Voreingenommenheit beim Training maschineller Lernsysteme führt zu diskriminierendem Verhalten in der realen Welt .

Eine aktuelle Studie einer Gruppe von Wissenschaftlern in Großbritannien und China zeigt, dass die in selbstfahrenden Fahrzeugen verbaute Fußgängererkennungssoftware – die von vielen Autoherstellern eingesetzt wird – möglicherweise weniger effektiv ist, wenn es sich bei den Probanden um Farbige oder Kinder handelt, was dazu führt, dass diese Menschen bei der Teilnahme am Straßenverkehr einem größeren Risiko ausgesetzt sind.

KI in selbstfahrenden Autos ist bei Farbigen und Kindern tendenziell weniger effektiv, was zu schweren Unfällen führen kann.

Obwohl es nur geringe Unterschiede hinsichtlich der Genauigkeit zwischen den Geschlechtern gab, stellten die Forscher fest, dass das KI-System bei der Erkennung von Fußgängern mit dunkleren Hauttönen weniger genau war.

„Angehörige von Minderheiten, denen viele wichtige Dienstleistungen vorenthalten wurden, sind nun einem ernsthaften Unfallrisiko ausgesetzt“, sagte Jie Zhang, Informatiker am King’s College London und Mitglied des Forschungsteams.

Konkret wurde in dem Bericht darauf hingewiesen, dass das System Erwachsene mit einer um 19,67 % höheren Wahrscheinlichkeit als Kinder erkennt und Menschen mit dunklerer Hautfarbe mit einer um 7,52 % geringeren Wahrscheinlichkeit erkennt.

„Insgesamt wirft diese Forschung Licht auf die Fairnessprobleme aktueller Fußgängererkennungssysteme und unterstreicht, wie wichtig es ist, alters- und hautbedingte Vorurteile zu berücksichtigen“, schrieb das Team in seinem Artikel. „Die gewonnenen Erkenntnisse könnten den Weg für fairere und unvoreingenommenere autonome Fahrsysteme in der Zukunft ebnen.“

Laut Angaben der Mitglieder des Forschungsteams wurde in ihrem Bericht nicht genau die Software verwendet, die Unternehmen wie Tesla in ihren Autos installieren, da es sich hierbei um ein Geschäftsgeheimnis handelt. Stattdessen stützte sich die Untersuchung auf ähnliche Open-Source-KIs, die von Unternehmen verwendet werden.

„Es ist von entscheidender Bedeutung, dass die politischen Entscheidungsträger Gesetze und Vorschriften erlassen, die die Rechte aller Menschen schützen und diesen Bedenken angemessen Rechnung tragen“, forderte das Team die Gesetzgeber auf, die Software für selbstfahrende Autos zu regulieren, um Voreingenommenheit in ihren Erkennungssystemen zu verhindern.

(Laut Insider)

Quelle: https://vietnamnet.vn/cam-bien-an-toan-ai-tren-xe-tu-hanh-kem-chinh-xac-voi-nguoi-da-mau-va-tre-em-2182710.html