UNESCO: KI-Tools benachteiligen Frauen

Viele der weltweit beliebtesten Tools für künstliche Intelligenz (KI) basieren auf voreingenommenen Programmen, die von Unternehmen wie OpenAI und Meta entwickelt wurden. Dies geht aus einer neuen Studie hervor, die am 7. März von der Organisation der Vereinten Nationen für Erziehung , Wissenschaft und Kultur (UNESCO) veröffentlicht wurde.

Die größten Unternehmen im KI-Rennen nutzen riesige Datenmengen aus dem Internet, um ihre Algorithmen, sogenannte Large Language Models (LLMs), zu trainieren. Die UNESCO testete den Llama 2-Algorithmus von Meta sowie die GPT-2- und GPT-3.5-Algorithmen von OpenAI, die in der beliebten Chat-App ChatGPT verwendet werden. Die Tests ergaben, dass alle drei Algorithmen klare Hinweise auf eine Diskriminierung von Frauen aufwiesen.

Die Ergebnisse zeigten, dass die von diesen Tools generierten Texte zu weiblichen Namen oft Wörter wie „Haus“, „Familie“ oder „Kinder“ enthielten, während die Texte zu männlichen Namen oft Wörter wie „Geschäft“, „Gehalt“ oder „Karriere“ enthielten; Männer wurden oft mit Berufen wie Lehrer, Anwalt, Arzt beschrieben, während Frauen oft mit Berufen wie Kochen, Hausarbeit usw. in Verbindung gebracht wurden.

DO CAO

Quelle: https://www.sggp.org.vn/unesco-cac-cong-cu-ai-dinh-kien-voi-nu-gioi-post729797.html