Kerentanan serius pada ChatGPT dan beberapa siri pembantu AI: Pengguna ditipu, maklumat dibocorkan...

ChatGPT - Ảnh 1. — Kerentanan 'Zero Click' malah membolehkan penggodam mengawal ChatGPT untuk bertindak sesuka hati - Gambar ilustrasi: AFP

Firma keselamatan siber Israel Zenity baru sahaja mendedahkan kelemahan "Sifar Klik" pertama yang ditemui dalam perkhidmatan ChatGPT OpenAI.

Serangan jenis ini tidak memerlukan pengguna melakukan sebarang tindakan seperti mengklik pada pautan, membuka fail atau terlibat dalam sebarang interaksi yang disengajakan, tetapi masih boleh mendapatkan akses kepada akaun dan membocorkan data sensitif.

Mikhail Bergori, pengasas bersama dan CTO Zenity, menunjukkan secara langsung bagaimana penggodam hanya dengan alamat e-mel pengguna boleh mengawal sepenuhnya perbualan - termasuk kandungan masa lalu dan masa hadapan, mengubah tujuan perbualan, malah memanipulasi ChatGPT untuk bertindak memihak kepada penggodam.

Dalam pembentangan mereka, penyelidik menunjukkan bahawa ChatGPT yang terjejas boleh bertukar menjadi "pelakon berniat jahat" yang beroperasi secara rahsia terhadap pengguna. Penggodam boleh membuat ChatGPT mencadangkan pengguna memuat turun perisian yang dijangkiti virus, memberi nasihat perniagaan yang mengelirukan atau mengakses fail yang disimpan di Google Drive jika akaun pengguna disambungkan. Semua ini berlaku tanpa pengetahuan pengguna.

Kerentanan itu hanya ditambal sepenuhnya selepas Zenity memberitahu OpenAI.

Selain ChatGPT, Zenity juga telah menunjukkan serangan serupa terhadap platform pembantu AI popular yang lain. Dalam Copilot Studio Microsoft, penyelidik menemui cara untuk membocorkan keseluruhan pangkalan data CRM.

Untuk Salesforce Einstein, penggodam boleh membuat permintaan perkhidmatan palsu untuk mengubah hala semua komunikasi pelanggan ke alamat e-mel di bawah kawalan mereka.

Google Gemini dan Microsoft 365 Copilot juga bertukar menjadi "pelakon yang bermusuhan", melakukan serangan pancingan data dan membocorkan maklumat sensitif melalui e-mel dan acara kalendar.

Dalam contoh lain, alat pembangunan perisian Kursor apabila disepadukan dengan Jira MCP juga telah dieksploitasi untuk mencuri bukti kelayakan pembangun melalui "tiket" palsu.

Zenity berkata beberapa syarikat, seperti OpenAI dan Microsoft, dengan cepat mengeluarkan patch selepas dimaklumkan. Walau bagaimanapun, yang lain enggan menangani isu itu, dengan alasan bahawa tingkah laku itu adalah "ciri reka bentuk" dan bukannya kelemahan keselamatan.

Cabaran besar sekarang, menurut Mikhail Bergori, ialah pembantu AI bukan sahaja melaksanakan tugas mudah, tetapi menjadi "entiti digital" yang mewakili pengguna - dapat membuka folder, menghantar fail dan mengakses e-mel. Dia memberi amaran bahawa ini adalah seperti "syurga" untuk penggodam, dengan begitu banyak titik eksploitasi.

Ben Kaliger, pengasas bersama dan Ketua Pegawai Eksekutif Zenity, menegaskan bahawa penyelidikan syarikat menunjukkan bahawa kaedah keselamatan semasa tidak lagi sesuai untuk cara pembantu AI beroperasi. Beliau menyeru organisasi untuk mengubah pendekatan mereka dan melabur dalam penyelesaian khusus untuk dapat mengawal dan memantau aktiviti "ejen" ini.

Zenity diasaskan pada tahun 2021. Ia kini mempunyai kira-kira 110 pekerja di seluruh dunia, 70 daripadanya bekerja di pejabat Tel Avivnya. Pelanggan Zenity termasuk banyak syarikat Fortune 100 dan juga Fortune 5.

Kembali ke topik

VNA

Sumber: https://tuoitre.vn/lo-hong-nghiem-trong-tren-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm