Vulnerabilitate gravă pe ChatGPT și o serie de asistenți AI: Utilizatorii sunt înșelați, informațiile sunt scurse...

Din cauza acestei vulnerabilități, hackerii pot face ca ChatGPT să sugereze utilizatorilor să descarce software care conține viruși, să ofere sfaturi comerciale false, chiar să acceseze fișiere de pe Google Drive...

Vulnerabilitatea „Zero Click” permite chiar și hackerilor să controleze ChatGPT pentru a acționa așa cum doresc - Fotografie ilustrativă: AFP

Firma israeliană de securitate cibernetică Zenity tocmai a dezvăluit prima vulnerabilitate „Zero Click” descoperită în serviciul ChatGPT al OpenAI.

Acest tip de atac nu necesită ca utilizatorii să efectueze nicio acțiune, cum ar fi clicul pe un link, deschiderea unui fișier sau implicarea în vreo interacțiune intenționată, dar poate totuși obține acces la conturi și poate divulga date sensibile.

Mikhail Bergori, cofondator și director tehnic al Zenity, a demonstrat direct cum un hacker, având doar adresa de e-mail a unui utilizator, ar putea prelua controlul complet asupra conversațiilor - inclusiv conținutul trecut și viitor, ar putea schimba scopul conversației și chiar ar putea manipula ChatGPT pentru a acționa în favoarea hackerului.

În prezentarea lor, cercetătorii au arătat că un ChatGPT compromis ar putea fi transformat într-un „actor rău intenționat” care operează în mod ascuns împotriva utilizatorilor. Hackerii ar putea face ChatGPT să sugereze utilizatorilor să descarce software infectat cu viruși, să ofere sfaturi comerciale înșelătoare sau să acceseze fișiere stocate pe Google Drive dacă contul utilizatorului este conectat. Toate acestea se întâmplă fără știrea utilizatorului.

Vulnerabilitatea a fost complet corectată doar după ce Zenity a notificat OpenAI.

Pe lângă ChatGPT, Zenity a demonstrat atacuri similare împotriva altor platforme populare de asistență AI. În Copilot Studio de la Microsoft, cercetătorii au descoperit o modalitate de a scurge informații despre baze de date CRM întregi.

Pentru Salesforce Einstein, hackerii pot crea cereri de servicii false pentru a redirecționa toate comunicările clienților către adresele de e-mail aflate pe controlul lor.

Google Gemini și Microsoft 365 Copilot au fost, de asemenea, transformate în „actori ostili”, care au efectuat atacuri de phishing și au scurs informații sensibile prin e-mailuri și evenimente din calendar.

Într-un alt exemplu, instrumentul de dezvoltare software Cursor, integrat cu Jira MCP, a fost exploatat și pentru a fura acreditările dezvoltatorului prin intermediul unor „tichete” false.

Zenity a declarat că unele companii, precum OpenAI și Microsoft, au lansat rapid patch-uri după ce au fost alertate. Cu toate acestea, altele au refuzat să abordeze problema, argumentând că comportamentul era o „caracteristică de design” și nu o vulnerabilitate de securitate.

Marea provocare acum, potrivit lui Mikhail Bergori, este că asistenții inteligenți artificiali nu mai îndeplinesc doar sarcini simple, ci devin „entități digitale” care reprezintă utilizatorii – capabili să deschidă foldere, să trimită fișiere și să acceseze e-mailuri. El a avertizat că acesta este ca un „paradis” pentru hackeri, cu atât de multe puncte de exploatare.

Ben Kaliger, cofondator și CEO al Zenity, a subliniat că cercetările companiei arată că metodele actuale de securitate nu mai sunt potrivite pentru modul în care operează asistenții AI. El a cerut organizațiilor să își schimbe abordarea și să investească în soluții specializate pentru a putea controla și monitoriza activitățile acestor „agenți”.

Zenity a fost fondată în 2021. În prezent, are aproximativ 110 angajați la nivel global, dintre care 70 lucrează în biroul său din Tel Aviv. Printre clienții Zenity se numără numeroase companii din topul Fortune 100 și chiar din Fortune 5.

Înapoi la subiect

VNA

Sursă: https://tuoitre.vn/lo-hong-nghiem-trong-tren-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm