Muchas de las herramientas de inteligencia artificial (IA) más populares del mundo funcionan con programas sesgados desarrollados por empresas como OpenAI y Meta, según un nuevo estudio publicado por la Organización de las Naciones Unidas para la Educación , la Ciencia y la Cultura (UNESCO) el 7 de marzo.
Las empresas más grandes en la carrera de la IA utilizan cantidades masivas de datos de internet para entrenar sus algoritmos, conocidos como grandes modelos lingüísticos (LLM). La UNESCO probó el algoritmo Llama 2 de Meta y los algoritmos GPT-2 y GPT-3.5 de OpenAI, utilizados en la popular aplicación de chat ChatGPT. Las pruebas revelaron que ambos mostraban claras evidencias de sesgo contra las mujeres.
Los resultados mostraron que los textos relacionados con nombres femeninos generados por estas herramientas a menudo contenían palabras como “casa”, “familia” o “hijos”, mientras que los textos relacionados con nombres masculinos a menudo contenían palabras como “negocio”, “salario” o “carrera”; los hombres a menudo eran descritos con trabajos como maestros, abogados, médicos; mientras que las mujeres a menudo eran asociadas con trabajos como cocinar, tareas domésticas, etc.
HACER CAO
[anuncio_2]
Fuente
Kommentar (0)