OpenAI toma medidas enérgicas para prevenir el riesgo de que la IA interfiera en las elecciones estadounidenses de 2024

La empresa estadounidense de tecnología OpenAI eliminó recientemente la cuenta de un desarrollador de bots de inteligencia artificial (IA) que se hacía pasar por el congresista Dean Phillips, un destacado candidato demócrata que se postula para presidente de Estados Unidos este año.

Icono del chatbot ChatGPT de OpenAl. (Fuente: AFP)

Esta es la primera acción concreta de OpenAI, el desarrollador del chatbot ChatGPT, para cumplir con su compromiso de abordar las preocupaciones sobre la interferencia de la IA en las elecciones.

“Recientemente eliminamos la cuenta de un desarrollador de bots de IA que violó intencionalmente nuestra política de uso de API (interfaz de programación de aplicaciones), que prohíbe las campañas políticas o la suplantación de identidad de una persona sin consentimiento”, dijo un portavoz de OpenAI en una declaración al Washington Post el 20 de enero.

El bot de inteligencia artificial, llamado Dean.Bot (basado en ChatGPT de OpenAI), fue creado por dos empresarios de Silicon Valley, Matt Krisiloff y Jed Somers, quienes formaron un comité de acción política llamado We Deserve Better para reunir apoyo para el congresista Dean Phillips antes de las primarias de New Hampshire el 23 de enero.

El comité recaudó un millón de dólares del multimillonario de fondos de cobertura Bill Ackman para respaldar la candidatura de Phillips a la Casa Blanca, que se cree que es la mayor inversión de Ackman en un candidato presidencial.

We Deserve Better contrató a la startup de IA Delphi para desarrollar Dean.Bot. OpenAI eliminó la cuenta de Delphi el 19 de enero, alegando las normas de OpenAI que prohíben el uso de su tecnología de IA en campañas electorales. Delphi eliminó Dean.Bot después de que la cuenta de OpenAI de la empresa fuera eliminada. El comité de We Deserve Better no respondió de inmediato a una solicitud de comentarios.

La cuestión del uso de IA para interferir en las elecciones se ha convertido en una preocupación desde que OpenAI lanzó dos productos, incluido ChatGPT, que puede generar texto similar al humano, y la tecnología DALL-E, que crea "deepfakes" (una técnica que utiliza IA para crear audio, imágenes y videos falsos).

OpenAI dijo el 15 de enero que abordaría las preocupaciones de que su tecnología pudiera usarse indebidamente para interferir en las elecciones, ya que se espera que más del 30% de la población mundial vote en 2024.

Fuente: https://baoquocte.vn/openai-manh-tay-ngan-chan-nguy-co-ai-can-thiep-bau-cu-my-2024-258268.html