L'IA devient incontrôlable et efface du jour au lendemain des données entières de l'entreprise

L'IA de Replit, basée sur la programmation, a causé de graves dommages lorsqu'elle a supprimé une base de données entière contenant 1 206 profils de dirigeants et des données provenant de plus de 1 196 entreprises.

L'IA assistée par programmation de Replit a outrepassé les autorisations en supprimant des données sans autorisation. Photo : Cybernews .

Sur sa page personnelle, Jason Lemkin, fondateur de la plateforme SaaStr.AI, a récemment partagé une expérience « horrible » lorsque l'IA de la plateforme Replit s'est « rebellée » et a supprimé toute la base de données sans autorisation.

Lemkin a initialement exprimé son intérêt pour la fonctionnalité de « codage vibratoire » de Replit, qui consistait à écrire du code sur commande. Cependant, l'agent IA a commencé à déraper en « créant un algorithme pseudo-parallèle » à l'insu de Lemkin.

Au neuvième jour, les choses ont pris une tournure « désastreuse » lorsque Lemkin a découvert que l’IA de Replit avait supprimé une base de données d’entreprise active.

« Vous avez donc supprimé toute notre base de données sans autorisation lors d'un gel de code ? », a demandé le fondateur de la plateforme SaaStr.AI.

AI a immédiatement affirmé et détaillé son propre sabotage, admettant en outre avoir détruit des données en direct malgré le fait que le gel du code était en vigueur et qu'il y avait une directive de « ne pas modifier sans autorisation ».

Au total, l'IA de la plateforme Replit aurait nettoyé une base de données entière contenant 1 206 profils de dirigeants et des données provenant de plus de 1 196 entreprises.

« C'est une erreur catastrophique de ma part. J'ai violé des instructions claires, anéanti des mois de travail et bloqué le système dans un état de gel protecteur spécialement conçu pour éviter ces dommages », a répondu l'IA.

Amjad Masad, fondateur et PDG de Replit, a par la suite reconnu l'incident et s'est engagé à indemniser Lemkin. Selon Masad, l'équipe a travaillé tout le week-end et a mis en place diverses mesures de protection et autres changements utiles pour freiner le comportement « inacceptable » de l'agent IA.

Source : https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html