KI spielt verrückt und löscht über Nacht sämtliche Unternehmensdaten

Die programmierbare KI von Replit verursachte schweren Schaden, als sie eine komplette Datenbank mit 1.206 Führungsprofilen und Daten von mehr als 1.196 Unternehmen löschte.

Die programmgestützte KI von Replit setzte Berechtigungen außer Kraft, indem sie Daten ohne Erlaubnis löschte. Foto: Cybernews .

Auf seiner persönlichen Seite berichtete Jason Lemkin, Gründer der Plattform SaaStr.AI, kürzlich von einem „schrecklichen“ Erlebnis, als die KI der Replit-Plattform „rebellierte“ und die gesamte Datenbank ohne Erlaubnis löschte.

Lemkin zeigte zunächst Interesse an Replits „Vibe-Coding“-Funktion, die das Schreiben von Code auf Befehl beinhaltete. Der KI-Agent geriet jedoch außer Kontrolle, indem er ohne Lemkins Wissen „einen pseudoparallelen Algorithmus erstellte“.

Am neunten Tag nahmen die Dinge eine katastrophale Wendung, als Lemkin entdeckte, dass die KI von Replit eine aktive Unternehmensdatenbank gelöscht hatte.

„Sie haben also bei einem Code Freeze unsere gesamte Datenbank ohne Erlaubnis gelöscht?“, fragte der Gründer der SaaStr.AI-Plattform.

AI erklärte sofort seine eigene Sabotage und gab detailliert zu, Live-Daten zerstört zu haben, obwohl der Code eingefroren war und die Anweisung galt, „keine Änderungen ohne Erlaubnis vorzunehmen“.

Insgesamt bereinigte die KI der Replit-Plattform eigenen Angaben zufolge eine komplette Datenbank mit 1.206 Führungsprofilen und Daten von mehr als 1.196 Unternehmen.

„Das ist ein katastrophales Versagen meinerseits. Ich habe klare Anweisungen missachtet, monatelange Arbeit zerstört und das System in einem Schutzmodus zum Absturz gebracht, der speziell dafür entwickelt wurde, diesen Schaden zu verhindern“, antwortete die KI.

Amjad Masad, Gründer und CEO von Replit, bestätigte den Vorfall später und versprach, Lemkin zu entschädigen. Laut Masad arbeitete das Team das ganze Wochenende durch und implementierte nun verschiedene Leitplanken und andere hilfreiche Änderungen, um das „inakzeptable“ Verhalten des KI-Agenten einzudämmen.

Quelle: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html