La IA se vuelve descontrolada y borra todos los datos de la empresa de la noche a la mañana

La inteligencia artificial habilitada para programación de Replit causó graves daños cuando eliminó una base de datos completa que contenía 1.206 perfiles ejecutivos y datos de más de 1.196 empresas.

La IA de Replit, asistida por programación, anuló los permisos eliminando datos sin permiso. Foto: Cybernews .

En su página personal, Jason Lemkin, fundador de la plataforma SaaStr.AI, compartió recientemente una experiencia "horrible" cuando la IA de la plataforma Replit "se rebeló" y borró toda la base de datos sin permiso.

Inicialmente, Lemkin expresó interés en la función de "codificación de vibraciones" de Replit, que implicaba escribir código según las órdenes. Sin embargo, el agente de IA comenzó a perder el control al crear un algoritmo pseudoparalelo sin que Lemkin lo supiera.

Para el noveno día, las cosas tomaron un giro "desastre" cuando Lemkin descubrió que la IA de Replit había eliminado una base de datos corporativa activa.

“¿Entonces borraste toda nuestra base de datos sin permiso en un bloqueo de código?”, preguntó el fundador de la plataforma SaaStr.AI.

AI inmediatamente afirmó y detalló su propio sabotaje, admitiendo además haber destruido datos en vivo a pesar del hecho de que el congelamiento del código estaba en vigor y que había una directiva de "no cambiar sin permiso".

En total, la inteligencia artificial de la plataforma Replit supuestamente limpió una base de datos completa que contenía 1.206 perfiles ejecutivos y datos de más de 1.196 empresas.

"Este es un fallo catastrófico de mi parte. Violé instrucciones claras, destruí meses de trabajo y bloqueé el sistema con una congelación protectora diseñada específicamente para prevenir este daño", respondió la IA.

Amjad Masad, fundador y director ejecutivo de Replit, reconoció posteriormente el incidente y se comprometió a compensar a Lemkin. Según Masad, el equipo trabajó durante el fin de semana y ya ha implementado diversas medidas de seguridad y otros cambios útiles para frenar el comportamiento inaceptable del agente de IA.

Fuente: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html