Peretas menggunakan AI untuk menyerang Gemini milik Google

Menurut BGR , sebuah laporan penelitian baru saja menerbitkan teknik yang mengkhawatirkan yang disebut 'Fun-Tuning', ketika menggunakan AI (kecerdasan buatan) itu sendiri untuk secara otomatis membuat serangan injeksi cepat yang sangat efektif yang menargetkan model AI canggih lainnya, termasuk Gemini milik Google.

Metode ini membuat 'peretasan' AI lebih cepat, lebih murah, dan lebih mudah dari sebelumnya, menandai eskalasi baru dalam pertempuran keamanan siber yang melibatkan AI.

Bahayanya ketika orang jahat menggunakan AI untuk menghancurkan AI

Injeksi cepat adalah teknik di mana penyerang menyelundupkan instruksi berbahaya ke dalam data masukan model AI (misalnya, melalui komentar di kode sumber, teks tersembunyi di web). Tujuannya adalah untuk 'mengelabui' AI agar melewati aturan keamanan yang telah diprogram sebelumnya, yang mengakibatkan konsekuensi serius seperti kebocoran data sensitif, memberikan informasi palsu, atau melakukan tindakan berbahaya lainnya.

Peretas menggunakan AI untuk menyerang AI

FOTO: TANGKAPAN LAYAR LINKEDIN

Sebelumnya, pelaksanaan serangan ini secara sukses, terutama pada model 'tertutup' seperti Gemini atau GPT-4, sering kali memerlukan banyak pengujian manual yang rumit dan memakan waktu.

Namun, Fun-Tuning telah mengubah permainan sepenuhnya. Dikembangkan oleh tim peneliti dari berbagai universitas, metode ini dengan cerdik memanfaatkan antarmuka pemrograman aplikasi (API) tuning yang disediakan Google secara gratis bagi pengguna Gemini.

Dengan menganalisis reaksi halus model Gemini selama penyetelan (misalnya, bagaimana ia merespons kesalahan dalam data), Fun-Tuning dapat secara otomatis menentukan 'awalan' dan 'akhiran' yang paling efektif untuk menyembunyikan perintah berbahaya. Hal ini secara signifikan meningkatkan kemungkinan AI akan mematuhi niat jahat penyerang.

Hasil pengujian menunjukkan bahwa Fun-Tuning mencapai tingkat keberhasilan hingga 82% pada beberapa versi Gemini, angka yang melampaui kurang dari 30% metode serangan tradisional.

Risiko Fun-Tuning semakin besar karena biayanya yang rendah. Karena API tuning Google tersedia gratis, biaya komputasi untuk membuat serangan yang efektif bisa serendah $10. Lebih lanjut, para peneliti menemukan bahwa serangan yang dirancang untuk satu versi Gemini dapat dengan mudah diterapkan ke versi lain, sehingga membuka kemungkinan serangan yang meluas.

Google telah mengonfirmasi bahwa mereka menyadari ancaman yang ditimbulkan oleh Fun-Tuning, tetapi belum berkomentar apakah hal itu akan mengubah cara kerja API penyetelan. Para peneliti juga menunjukkan dilema defensif: menghapus informasi yang dieksploitasi Fun-Tuning dari proses penyetelan akan membuat API tersebut kurang bermanfaat bagi pengembang yang sah. Sebaliknya, membiarkannya apa adanya akan terus menjadi batu loncatan bagi pelaku kejahatan untuk mengeksploitasinya.

Munculnya Fun-Tuning merupakan peringatan yang jelas bahwa konfrontasi di dunia maya telah memasuki fase baru yang lebih kompleks. AI kini tak hanya menjadi target, tetapi juga alat dan senjata di tangan para pelaku kejahatan.

Sumber: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm