Nuevos detalles del escándalo del personal de OpenAI

[anuncio_1]

La carta del punto de inflexión

El 23 de noviembre, Reuters citó a fuentes exclusivas que afirmaron que cuatro días antes del despido del director ejecutivo, Sam Altman, algunos investigadores de OpenAI enviaron una carta a la junta directiva de la compañía advirtiendo sobre un poderoso descubrimiento de inteligencia artificial (IA) que podría amenazar a la humanidad. La carta nunca se había mencionado antes y el algoritmo de IA mencionado anteriormente fue un avance importante antes del despido de Sam Altman, cofundador de OpenAI, el 17 de noviembre. Regresó a su puesto el 21 de noviembre (hora de EE. UU.) tras dos negociaciones con OpenAI. Según las fuentes, la carta fue uno de los motivos que llevaron a la decisión de despedir a la junta directiva de OpenAI, aunque en el anuncio oficial, la compañía solo mencionó que Altman "no fue coherente ni directo en su comunicación con la junta directiva".

Tình tiết mới vụ sóng gió nhân sự OpenAI - Ảnh 1. — El Sr. Altman ( *derecha* ) y líderes de empresas tecnológicas discutieron en la conferencia APEC en San Francisco (EE.UU.) el 16 de noviembre.

Una de las ejecutivas de OpenAI con más trayectoria, Mira Murati, mencionó un proyecto llamado Q* a los empleados el 22 de noviembre y afirmó que la junta directiva de la compañía recibió una carta antes del despido de Altman, según las fuentes. Una de las fuentes indicó que OpenAI ha avanzado en Q*, lo que podría representar un gran avance en la búsqueda de la superinteligencia, también conocida como inteligencia artificial general (IAG).

Aunque el modelo solo es capaz de realizar cálculos matemáticos de nivel de primaria, la resolución de estos problemas hace que los investigadores se sientan optimistas sobre el éxito futuro de Q*. Los investigadores consideran las matemáticas un prerrequisito para el desarrollo de la IA generativa. Actualmente, la IA generativa puede escribir y traducir idiomas, aunque las respuestas a las mismas preguntas pueden ser muy diferentes. Pero dominar las matemáticas, donde solo hay una respuesta correcta, implica que la IA podrá razonar mejor, como los humanos. Los investigadores creen que esto podría aplicarse a nuevas investigaciones científicas .

Sam Altman regresa como CEO de OpenAI

¿Peligro potencial?

En una carta dirigida a la junta directiva de OpenAI, los investigadores describieron el potencial poder y los peligros de la IA, según las fuentes. Los informáticos llevan mucho tiempo debatiendo los peligros que representan las máquinas superinteligentes, como la posibilidad de que decidan destruir a la humanidad para su propio beneficio. En este contexto, Altman ha liderado los esfuerzos para convertir ChatGPT en una de las aplicaciones de software de más rápido crecimiento de la historia y atraer la inversión y los recursos informáticos necesarios para avanzar hacia la IA general. Además de anunciar una serie de nuevas herramientas en un evento este mes, Altman declaró ante los líderes mundiales en San Francisco la semana pasada que creía que la IA general estaba a nuestro alcance. Un día después, fue despedido por la junta directiva de OpenAI. OpenAI y Altman no respondieron de inmediato a las solicitudes de comentarios sobre la carta.

Preocupados por los posibles riesgos que plantea la IA, muchos gobiernos occidentales y empresas tecnológicas han acordado un nuevo régimen de pruebas de seguridad. Sin embargo, según AFP, el secretario general de la ONU, António Guterres, afirmó que el mundo aún se encuentra en una fase de recuperación en los esfuerzos por regular la IA, lo que podría tener consecuencias negativas a largo plazo para diversos ámbitos, desde el empleo hasta la cultura.

OpenAI y Microsoft demandados por derechos de autor

Un grupo de autores de no ficción ha presentado una demanda contra OpenAI y Microsoft, acusándolos de entrenar una herramienta llamada ChatGPT para copiar su trabajo sin su consentimiento, informó The Hill el 23 de noviembre. En la demanda, presentada ante un tribunal federal de Nueva York, el demandante principal, Julian Sancton, afirmó que él y otros autores no han recibido compensación alguna por las obras copiadas por AI, mientras que OpenAI y Microsoft han alcanzado el éxito financiero de la comercialización de su trabajo, obteniendo miles de millones de dólares en ingresos de productos de IA. Según Reuters, un portavoz de OpenAI declinó hacer comentarios sobre la demanda, mientras que un representante de Microsoft no respondió de inmediato a una solicitud de comentarios.

[anuncio_2]
Enlace de origen