Israel: Peringatan bahwa asisten AI dapat menjadi agen jahat untuk menyerang pengguna

Perusahaan keamanan siber Israel, Zenity, telah mengungkap kerentanan "Zero Click" pertama di layanan ChatGPT milik OpenAI. Jenis serangan ini tidak mengharuskan pengguna melakukan tindakan apa pun seperti mengeklik tautan, membuka berkas, atau terlibat dalam interaksi apa pun yang diinginkan, tetapi tetap dapat mengakses akun dan membocorkan data sensitif.

Menurut seorang reporter VNA di Tel Aviv, Tn. Mikhail Bergori, salah satu pendiri dan CTO Zenity, secara langsung menjelaskan bagaimana seorang peretas hanya memerlukan alamat email pengguna untuk sepenuhnya mengendalikan percakapan - termasuk konten masa lalu dan masa depan, mengubah tujuan percakapan, dan bahkan mengendalikan ChatGPT untuk bertindak sesuai keinginan peretas.

Dalam presentasi mereka, para peneliti menunjukkan bahwa ChatGPT yang telah disusupi dapat diubah menjadi "aktor jahat" yang dapat beroperasi secara diam-diam terhadap pengguna. Peretas dapat membuat chatbot menyarankan pengguna untuk mengunduh perangkat lunak yang terinfeksi virus, memberikan saran bisnis yang menyesatkan, atau mengakses berkas yang tersimpan di Google Drive jika akun pengguna terhubung.

Seluruh proses terjadi tanpa sepengetahuan pengguna. Kerentanan tersebut baru sepenuhnya diperbaiki setelah Zenity memberi tahu OpenAI.

Selain ChatGPT, Zenity juga telah mendemonstrasikan serangan serupa terhadap platform asisten AI populer lainnya. Di Copilot Studio milik Microsoft, para peneliti menemukan cara untuk membocorkan seluruh basis data CRM.

Untuk Salesforce Einstein, peretas dapat membuat permintaan layanan palsu untuk mengalihkan semua komunikasi pelanggan ke alamat email yang mereka kendalikan.

Google Gemini dan Microsoft 365 Copilot juga diubah menjadi "aktor jahat", yang melakukan serangan phishing dan membocorkan informasi sensitif melalui email dan acara kalender.

Dalam contoh lain, alat pengembangan perangkat lunak Cursor, ketika diintegrasikan dengan Jira MCP, juga dieksploitasi untuk mencuri kredensial pengembang melalui “tiket” palsu.

Zenity mengatakan beberapa perusahaan, termasuk OpenAI dan Microsoft, segera merilis patch setelah menerima peringatan. Namun, beberapa perusahaan lain menolak untuk mengatasi masalah tersebut, dengan alasan bahwa perilaku tersebut merupakan "fitur desain" dan bukan kerentanan keamanan.

Tantangan besarnya saat ini, menurut Mikhail Bergori, adalah asisten AI tidak hanya melakukan tugas-tugas sederhana, tetapi menjadi "entitas digital" yang merepresentasikan pengguna – mampu membuka folder, mengirim berkas, dan mengakses email. Ia memperingatkan bahwa ini seperti "surga" bagi para peretas, dengan begitu banyak titik eksploitasi.

Ben Kaliger, salah satu pendiri dan CEO Zenity, menekankan bahwa riset perusahaan menunjukkan bahwa metode keamanan saat ini tidak lagi sesuai dengan cara kerja asisten AI. Ia mendesak berbagai organisasi untuk mengubah pendekatan mereka dan berinvestasi dalam solusi khusus agar dapat mengendalikan dan memantau aktivitas "agen" ini.

Zenity didirikan pada tahun 2021. Saat ini, perusahaan ini memiliki sekitar 110 karyawan di seluruh dunia, 70 di antaranya bekerja di kantornya di Tel Aviv. Klien Zenity mencakup banyak perusahaan Fortune 100 dan bahkan Fortune 5.

(Vietnam+)

Sumber: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp