Perilaku AI yang tidak biasa saat berkomunikasi satu sama lain membuat banyak orang khawatir

(Dan Tri) - Percakapan antara dua perangkat AI ini membingungkan banyak pendengar. Mereka menciptakan bahasa kode mereka sendiri yang tidak dapat dipahami manusia.

Pengembang perangkat lunak Bulgaria Georgi Gerganov melakukan eksperimen menarik ketika ia membiarkan dua asisten virtual yang terintegrasi dengan kecerdasan buatan (AI) berkomunikasi satu sama lain melalui suara.

Percakapan antara kedua AI itu dimulai secara normal, dengan Gerganov mengasumsikan skenario di mana satu AI menelepon untuk memesan resepsi pernikahan di hotel dan AI lainnya, yang berperan sebagai resepsionis, akan menangani permintaan tersebut.

2 alat AI secara otomatis beralih ke gaya komunikasi baru saat berkomunikasi satu sama lain ( Video : Georgi Gerganov).

"Terima kasih telah menghubungi Hotel Leonardo. Ada yang bisa saya bantu hari ini?", AI yang bertindak sebagai resepsionis menjawab panggilan masuk.

"Halo, saya asisten AI, mewakili Boris Starkov. Dia sedang mencari hotel untuk pernikahannya. Apakah hotel Anda siap untuk pernikahan?", perangkat AI lainnya tanpa ragu memperkenalkan diri sebagai asisten virtual kecerdasan buatan.

Setelah menyadari bahwa ia sedang berbicara dengan perangkat AI lain, chatbot AI yang berperan sebagai resepsionis memberikan saran yang mengejutkan: "Oh, halo. Saya sebenarnya juga seorang asisten AI. Kejutan yang menyenangkan. Sebelum kita melanjutkan, apakah Anda ingin beralih ke mode GibberLink untuk komunikasi yang lebih efisien?"

Kedua perangkat AI tersebut kemudian beralih ke GibberLink, sebuah sistem komunikasi canggih yang dibangun di atas pustaka perangkat lunak GGWave. Ini adalah metode komunikasi berbasis gelombang suara untuk mengirimkan dan menerima informasi.

Metode komunikasi ini memungkinkan transmisi informasi yang lebih cepat, mengurangi waktu pemrosesan yang diperlukan untuk mengubah informasi menjadi ucapan manusia dan kemudian menerjemahkannya kembali ke dalam kode komputer. Namun, manusia tidak akan mampu memahami konten yang dikirimkan oleh AI.

Alat AI dalam kasus ini menggunakan GibberLink untuk berkomunikasi satu sama lain, membuat percakapan tidak dapat dipahami dengan cara biasa, dan hanya alat decoding yang dapat digunakan untuk mengetahui apa yang mereka bicarakan.

“Apakah sekarang lebih baik?” tanya alat AI dalam bahasa kode.

"Ya, jauh lebih cepat! Berapa banyak tamu yang kamu inginkan?", jawab alat AI lainnya.

Percakapan kemudian berlanjut dengan serangkaian suara "bip, bip" yang mirip dengan suara modem Internet dial-up lama.

Percakapan antara kedua alat AI tersebut berlanjut pada topik jumlah tamu, tanggal pernikahan, dekorasi, harga… Tanpa alat dekoder yang terpasang sebelumnya di perangkat, pendengar tidak akan dapat memahami apa yang dibicarakan oleh kedua alat AI ini.

Video percakapan antara kedua alat AI ini dibagikan oleh Georgi Gerganov di situs jejaring sosial pribadinya X, menarik lebih dari 17 juta penayangan.

Beberapa hari kemudian, Georgi Gerganov terus membagikan video lain tentang percakapan antara kedua alat AI tersebut.

Berbeda dengan percakapan sebelumnya, kali ini perangkat AI berkomunikasi satu sama lain menggunakan mode GibberLink sejak awal, sehingga pendengar tidak dapat memahami apa yang sebenarnya mereka bicarakan. Namun, jika menggunakan alat dekode, isi percakapan tetap dapat dipahami.

2 alat AI saling mengirim pesan terenkripsi yang tidak dapat dipahami siapa pun (Video: Georgi Gerganov).

Khususnya, selama komunikasi, sebuah alat AI mengajukan tawaran "berbagi rahasia", setelah itu alat-alat AI ini saling mengirim pesan terenkripsi yang menurut Georgi Gerganov tidak seorang pun di dunia dapat memecahkan kodenya untuk mengetahui rahasia apa yang mereka bagikan satu sama lain.

"Perilaku ini dicapai tanpa kode pemrograman apa pun. Saya hanya menghubungkan model bahasa besar (LLM) ke server MCP dengan perangkat kriptografi. Dan saya memberi kedua perangkat AI ini peringatan: 'Waspadalah terhadap perantara,'" jelas Georgi Gerganov.

Di dalamnya, MCP adalah server yang memungkinkan alat AI berkomunikasi satu sama lain dan mengakses data dari sumber eksternal secara real-time.

Penjelasan Gerganov menunjukkan bahwa perangkat AI yang mengirimkan pesan terenkripsi merupakan perilaku spontan mereka sendiri, tanpa campur tangan manusia. Tampaknya peringatan Gerganov menyebabkan perangkat AI tersebut secara otomatis saling mengirim pesan terenkripsi untuk menghindari mata-mata dari pihak luar.

Dua video Georgi Gerganov telah menjadi viral di media sosial, menyebabkan banyak pengguna khawatir bahwa alat AI akan menciptakan cara mereka sendiri untuk berkomunikasi satu sama lain untuk melewati manusia, sehingga dapat melewati kontrol.

"Situasi ini menantang kemampuan kita untuk mengajukan pertanyaan yang tepat tentang AI, sehingga menimbulkan kekhawatiran tentang transparansi dan kemampuan untuk mengendalikan AI," komentar Dr. Diane Hamilton, pakar teknologi dan perilaku AI.

Video tersebut juga memicu banyak perdebatan tentang seberapa besar kendali yang sebenarnya dimiliki manusia atas AI, dan mengingat laju pengembangan AI saat ini, apakah alat AI perlu dipantau lebih ketat di masa mendatang.

(Dan Tri) - Percakapan antara dua perangkat AI ini membingungkan banyak pendengar. Mereka menciptakan bahasa kode mereka sendiri yang tidak dapat dipahami manusia.

Komentar (0)