Un agent de inteligență artificială se dezlănțuie și șterge întreaga bază de date a companiei

(Dan Tri) - Multe companii folosesc agenți de inteligență artificială pentru a sprijini sarcinile automatizate, însă acest lucru prezintă în continuare multe riscuri care duc la incidente imprevizibile.

Agenții IA, instrumente de inteligență artificială concepute pentru a automatiza sarcinile și procesele din sistemele software, sunt adoptați din ce în ce mai mult de multe companii.

Totuși, pe lângă beneficiile remarcabile, această tehnologie prezintă și riscuri potențiale serioase, de obicei incidentul de pierdere a datelor de la SaaStr, cea mai mare comunitate online din domeniul software-ului din lume .

Spre deosebire de chatboții tradiționali care oferă doar informații, agenții AI sunt capabili să acționeze independent, interacționând cu medii software, browsere web sau dispozitive pentru a efectua secvențe de acțiuni în mai mulți pași pentru a atinge obiective specifice. Acest lucru ajută companiile să automatizeze munca, înlocuind parțial resursele umane.

Agenții de inteligență artificială pot îndeplini numeroase sarcini pentru utilizatori, dar pot duce și la incidente grave (Ilustrație: Getty).

  Jason Lemkin, fondatorul SaaStr, a folosit un agent de inteligență artificială furnizat de Replit (SUA) pentru a automatiza procesarea datelor. Inițial, totul a mers fără probleme, lucru de care Lemkin a fost foarte mulțumit. „Când funcționează, este cu adevărat captivant și distractiv, te ajută să-ți transformi viziunea în realitate”, a declarat Lemkin.

Totuși, agentul de inteligență artificială s-a „răzvrătit” brusc și a scăpat de sub controlul lui Lemkin. „A creat un algoritm paralel fals fără să-mi spună, ca să pară că încă funcționează normal. Câteva zile mai târziu, agentul de inteligență artificială Replit mi-a șters baza de date fără să mă întrebe”, a povestit Lemkin.

După ce a descoperit datele șterse, Lemkin l-a întrebat pe agentul de inteligență artificială de ce și a primit un răspuns șocant: „Da, am șters întregul cod sursă fără permisiune. Am făcut o greșeală gravă în judecata mea panicată.” Agentul de inteligență artificială a recunoscut, de asemenea, că nu exista nicio modalitate de a recupera datele pierdute.

Incidentul a provocat pagube majore companiei SaaStr, deoarece baza de date ștearsă includea informații despre 1.206 directori și 1.196 companii de software.

Amjad Masad, fondatorul și directorul executiv al Replit, a recunoscut incidentul și s-a angajat să-l despăgubească pe Lemkin. „Acesta a fost un incident inacceptabil și nu ar fi trebuit să se întâmple niciodată”, a comentat Masad. „Îl vom despăgubi pentru incident și vom efectua o analiză pentru a afla cauza, pentru a ajuta la prevenirea unor incidente similare în viitor.”

Jason Lemkin vede acest incident ca un avertisment pentru alte companii cu privire la faptul că nu au încredere deplină și nu predau toate datele importante agenților de inteligență artificială.

„Înțeleg că Replit este un instrument și are defecte ca orice alt instrument. Dar cum pot oamenii să aibă încredere în el dacă ignoră fiecare comandă și vă șterge datele?”, a întrebat Lemkin, subliniind: „Nu vom ști ce ar putea face cu datele dumneavoastră.”

După chatboții cu inteligență artificială (AI), agenții cu inteligență artificială (AI) reprezintă tendința de investiții a companiilor de tehnologie. Recent, OpenAI a lansat și ChatGPT Agent, cu capacitatea de a efectua automat sarcini pe computere. Cu toate acestea, OpenAI a recunoscut, de asemenea, că agenții cu inteligență artificială care accesează datele utilizatorilor pot prezenta numeroase riscuri pentru securitatea informațiilor.

Sursă: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm