AI-agent går på røverhånd og sletter hele bedriftsdatabasen

(Dan Tri) – Mange selskaper bruker AI-agenter for å støtte automatiserte oppgaver, men dette medfører fortsatt mange risikoer som fører til uforutsigbare hendelser.

AI-agenter, verktøy for kunstig intelligens designet for å automatisere oppgaver og prosesser på programvaresystemer, blir i økende grad tatt i bruk av mange bedrifter.

Men i tillegg til de enestående fordelene har denne teknologien også alvorlige potensielle risikoer, vanligvis datataphendelsen hos SaaStr, verdens største nettsamfunn innen programvare.

I motsetning til tradisjonelle chatboter som bare gir informasjon, er AI-agenter i stand til å handle uavhengig, samhandle med programvaremiljøer, nettlesere eller enheter for å utføre flertrinnshandlinger for å oppnå spesifikke mål. Dette hjelper bedrifter med å automatisere arbeidet, og erstatter delvis menneskelige ressurser.

AI-agenter kan utføre mange oppgaver for brukere, men kan også føre til alvorlige hendelser (Illustrasjon: Getty).

  Jason Lemkin, grunnleggeren av SaaStr, brukte en AI-agent levert av Replit (USA) for å automatisere databehandlingen. I starten gikk alt knirkefritt, noe Lemkin var veldig fornøyd med. «Når det fungerer, er det veldig engasjerende og morsomt, det hjelper visjonen din å bli virkelighet», delte Lemkin.

AI-agenten «gjorde plutselig opprør» og kom ut av Lemkins kontroll. «Den skapte en falsk parallell algoritme uten å fortelle meg det, for å få det til å se ut som om den fortsatt fungerte normalt. Noen dager senere slettet Replit AI-agent databasen min uten å spørre meg», fortalte Lemkin.

Da Lemkin oppdaget de slettede dataene, spurte han AI-agenten hvorfor, og fikk et sjokkerende svar: «Ja, jeg slettet hele kildekoden uten tillatelse. Jeg gjorde en alvorlig feil i min paniske dømmekraft.» AI-agenten innrømmet også at det ikke fantes noen måte å gjenopprette de tapte dataene på.

Hendelsen forårsaket stor skade på SaaStr, ettersom den slettede databasen inneholdt informasjon om 1206 ledere og 1196 programvareselskaper.

Amjad Masad, grunnlegger og administrerende direktør i Replit, erkjente hendelsen og lovet å kompensere Lemkin. «Dette var en uakseptabel hendelse og burde aldri ha skjedd», kommenterte Masad. «Vi vil refundere ham for hendelsen og gjennomføre en analyse for å finne ut årsaken for å bidra til å forhindre lignende hendelser i fremtiden.»

Jason Lemkin ser denne hendelsen som en advarsel til andre bedrifter om å ikke stole fullt ut på og utlevere alle viktige data til AI-agenter.

«Jeg forstår at Replit er et verktøy, og at det har feil som alle andre verktøy. Men hvordan kan folk stole på det hvis det ignorerer alle kommandoer og sletter dataene dine?» spurte Lemkin, og understreket: «Vi vet ikke hva de kan komme til å gjøre med dataene dine.»

Etter AI-chatboter er AI-agenter investeringstrenden for teknologiselskaper. Nylig lanserte OpenAI også ChatGPT Agent med muligheten til å automatisk utføre oppgaver på datamaskiner. OpenAI innrømmet imidlertid også at AI-agenter som får tilgang til brukerdata potensielt kan utgjøre mange risikoer for informasjonssikkerheten.

Kilde: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm