Șeful se relaxează, angajații transmit calm date confidențiale către inteligența artificială

(Dan Tri) - Atunci când inteligența artificială se infiltrează în fiecare aspect al muncii, este și momentul în care companiile trebuie să se confrunte cu un „curent subteran” care măturează în tăcere confidențialitatea datelor, numit „inteligență artificială din umbră”.

Aplicarea inteligenței artificiale (IA) la locul de muncă a devenit o tendință inevitabilă, contribuind la îmbunătățirea eficienței și la economisirea timpului.

Totuși, în spatele acestei comodități se ascund potențiale riscuri la adresa securității datelor, în special fenomenul de „Shadow AI” - atunci când angajații folosesc instrumentele IA în mod neglijent, fără control, plasând accidental date confidențiale ale companiei pe platforme publice.

Dependența și preocupările inițiale

Thanh Huyen (21 de ani), angajată în marketing de conținut la o companie de cosmetice și alimente funcționale, a mărturisit că se bazează pe inteligența artificială în proporție de 90% în munca sa, de la planificare și crearea de conținut până la designul de imagini și videoclipuri .

Totuși, odată ce a dat peste accidental un articol similar cu ideea despre care a întrebat-o pe ChatGPT, Huyen a început să-și facă griji cu privire la capacitatea inteligenței artificiale de a-și aminti și de a partaja informațiile de intrare.

Aplicarea inteligenței artificiale la locul de muncă a devenit aproape o practică implicită pentru multe industrii în prezent (Foto: Bao Ngoc).

Deși povestea lui Huyen poate fi o coincidență, faptul incontestabil este că furnizarea de informații către inteligența artificială înseamnă permiterea acestor instrumente să colecteze și să stocheze date pentru a antrena modelul.

Problema devine gravă dacă platforma de inteligență artificială este atacată prin hacking sau securizată necorespunzător, ceea ce duce la scurgeri de informații și consecințe negative.

„IA din umbră” - Un potențial pericol

HM (20 de ani), specialist în servicii pentru clienți, furnizează în mod regulat o listă cu informații despre clienți (nume complet, data nașterii, număr de telefon, istoricul achizițiilor) către inteligența artificială pentru analiză, economisind timp și îmbunătățind performanța.

M. consideră că acesta nu reprezintă un risc potențial, deoarece compania este mică, iar datele nu vor fi divulgate. Cu toate acestea, cazul lui M. este tipic pentru „Shadow AI” - utilizarea IA de către angajați fără aprobarea sau supravegherea departamentului de tehnologia informației sau securitate cibernetică.

Fenomenul „Shadow AI” se referă la utilizarea IA de către angajații din companii fără niciun control sau management (Ilustrație: CV).

Un raport Cisco a constatat că 62% dintre organizațiile din Vietnam nu au încredere în detectarea utilizării nereglementate a inteligenței artificiale de către angajați. Un sondaj din Marea Britanie a constatat, de asemenea, că 75% dintre managerii de securitate cibernetică sunt îngrijorați de amenințările interne, cum ar fi inteligența artificială din umbră.

Acest lucru arată că IA în umbră devine o amenințare comună, mai ales atunci când multe companii nu au politici clare privind utilizarea IA, iar angajații nu sunt conștienți de securitatea datelor.

Acceptă compromisuri pentru a evita să fii lăsat în urmă

Deși este conștientă de riscuri, Thanh Huyen acceptă totuși să „parieze” pe inteligența artificială. Ea consideră că beneficiile imediate pe care le aduce inteligența artificială sunt prea mari, ajutându-o să producă zeci de articole și idei în fiecare zi.

Comoditatea, viteza și capacitatea de a crește performanța au făcut-o pe Huyen dispusă să furnizeze informații sensibile și confidențiale inteligenței artificiale, chiar și informații personale ale superiorilor ei.

În ciuda riscurilor potențiale ale utilizării inteligenței artificiale fără control, mulți angajați acceptă în continuare compromisul pentru beneficii imediate (Ilustrație: CV).

În mod similar, Trung Hieu (20 de ani), angajat în departamentul de marketing de conținut, furnizează în mod regulat documente interne și informații de afaceri chatbot-ului cu inteligență artificială.

Hieu a observat o creștere semnificativă a productivității, creând un avantaj competitiv și consideră că acest lucru nu afectează prea mult operațiunile companiei.

Aceste cazuri arată că inteligența artificială din umbră se răspândește din cauza lipsei unor politici clare din partea companiei și a unei conștientizări insuficiente în rândul angajaților cu privire la riscurile de securitate, calitate și dependență.

O serie de riscuri atunci când ai prea multă încredere în IA

Dl. Nguyen Viet Hung, CEO al unei companii de dezvoltare software pentru aplicații AI, explică popularitatea AI-ului din umbră datorită a trei factori: AI ajută la lucrul mai rapid și mai eficient; obiceiul de a depinde de AI se formează rapid; și companiilor le lipsesc avertismentele și instruirea cu privire la riscuri.

Dl. Nguyen Viet Hung, CEO al unei companii de dezvoltare software pentru aplicații de inteligență artificială (Foto: Cong Khanh).

Experții avertizează că inteligența artificială în umbră poate duce la scurgeri de date (de la clienți, interne) atunci când este utilizată pe instrumente de inteligență artificială gratuite.

În plus, calitatea conținutului generat de inteligența artificială nu este verificată, ceea ce poate duce cu ușurință la prejudecăți și poate influența deciziile de afaceri.

Mai grav, utilizarea necontrolată a inteligenței artificiale poate crea vulnerabilități de securitate, îngreunând monitorizarea și răspunsul prompt al sistemelor IT și îngreunând stabilirea responsabilității atunci când apar incidente.

Zonele întunecate sunt greu de controlat.

Monitorizarea și gestionarea angajaților care utilizează inteligența artificială este un proces lung și coordonat. Experții spun că accesul angajaților la date interne reprezintă un obstacol major în calea împiedicării transmiterii de date private prin intermediul instrumentelor personale de inteligență artificială.

În plus, instrumentele de inteligență artificială sunt acum ușor accesibile, ceea ce face dificilă detectarea sau gestionarea lor de către departamentul IT.

Accesul facil la instrumentele de inteligență artificială este una dintre barierele care îngreunează controlul informațiilor pe care angajații le introduc pe platformele de inteligență artificială (Ilustrație: CV).

Pentru a face față situației, expertul Nguyen Viet Hung a sugerat că firmele trebuie să intensifice instruirea angajaților cu privire la conștientizarea riscurilor atunci când utilizează inteligența artificială și să dobândească o înțelegere mai profundă a „inteligenței artificiale din umbră”.

În același timp, publicați prompt reglementări legale și politici interne. O altă soluție importantă este consolidarea capacităților de securitate la nivelul întreprinderii, inclusiv monitorizarea comportamentală, controlul accesului la date și autorizarea atentă a fiecărui angajat.

În prezent, multe companii încă nu au un proces clar de utilizare a inteligenței artificiale, încurajând doar utilizarea acesteia pentru creșterea productivității. Pentru a face față inteligenței artificiale din umbră, multe companii mari au început să implementeze platforme interne de inteligență artificială sau să solicite angajaților să utilizeze instrumente aprobate cu politici clare de securitate a informațiilor.

Sursă: https://dantri.com.vn/cong-nghe/sep-buong-long-nhan-vien-than-nhien-cap-du-lieu-mat-cho-ai-20250806090132034.htm