Penggodam boleh mendapatkan maklumat sulit syarikat dengan 'bercakap' dengan AI chatbot

Menurut pakar teknologi, dengan menggunakan satu siri gesaan yang canggih, penggodam boleh menembusi pangkalan data 'sulit' syarikat tanpa dikesan.

Gambaran keseluruhan acara OpenInfra & Cloud Native Day Vietnam 2025 dengan tema "era kejayaan digital Vietnam" - Foto: CHI HIEU

Kecerdasan Buatan (AI) membawa banyak nilai, terutamanya kini disepadukan oleh banyak perniagaan untuk memberi perkhidmatan kepada pengguna akhir seperti pekerja syarikat, pelanggan... Dari sini, sistem chatbot bersepadu AI boleh menjadi "pintu sempit" untuk penggodam untuk menyerang dan mencuri maklumat mengenai sistem penyimpanan data.

"Pada masa ini, terdapat banyak kaedah untuk menyerang model AI, yang paling biasa ialah 'keracunan kandungan', yang nampaknya 'tidak kelihatan' kepada sistem perlindungan maklumat tradisional," amaran Encik Dao Viet Hung, pengarah negara Akamai Technologies Vietnam, pada acara OpenInfra & Cloud Native Day Vietnam 2025 yang diadakan pada 26 Julai di Hanoi .

Acara itu dianjurkan oleh Persatuan Internet Vietnam (VIA) dengan kerjasama Komuniti Infrastruktur Terbuka Vietnam (VietOpenInfra), Kelab Pengkomputeran Awan dan Pusat Data Vietnam (VNCDC), dengan sokongan Kementerian Sains dan Teknologi .

90% perniagaan menggunakan platform atau perisian terbuka

Dalam ucapan pembukaannya, Encik Vu The Binh - Naib Presiden dan Setiausaha Agung Persatuan Internet Vietnam - menekankan kepentingan infrastruktur terbuka dan kod sumber terbuka dalam proses transformasi digital negara.

Dalam konteks perubahan pesat dalam teknologi global, Encik Binh berkata bahawa infrastruktur terbuka terus berkembang sebagai asas untuk inovasi apabila lebih daripada 90% perniagaan menggunakan platform atau perisian terbuka dalam pelbagai bentuk.

Menurut tinjauan Red Hat (2024), 82% daripada pemimpin teknologi melihat platform dan perisian terbuka sebagai kunci untuk memacu transformasi digital dan mempercepatkan inovasi. Platform seperti Kubernetes, OpenStack, Linux, Ceph, OpenTelemetry semakin memainkan peranan penting dalam mengendalikan sistem AI, IoT, 5G/6G dan Cloud Native.

"10 tahun yang lalu, awan boleh disalah anggap sebagai awan di langit, dan sumber terbuka berbunyi seperti 'rahsia seni mempertahankan diri'. Tetapi hari ini, kami berada di sini, berhubung dengan komuniti Infrastruktur Terbuka global di lebih 180 negara, bersama-sama menjadikan garis kod sebagai penggerak inovasi," kongsi Encik Vu The Binh.

AI Chatbot - "pintu sempit" untuk penggodam menembusi sistem

"Pada masa ini, banyak perniagaan menggunakan keberkesanan platform terbuka dan responsif dengan kuat yang menyepadukan sistem seperti AI chatbots untuk membantu meningkatkan prestasi kerja dan meningkatkan pengalaman pengguna.

Juga dari sini, banyak kaedah serangan ke atas model AI, termasuk serangan "keracunan kandungan", memberi amaran kepada Encik Dao Viet Hung, pengarah negara Akamai Technologies Vietnam.

Beliau mengulas bahawa perniagaan Vietnam ketika menggunakan AI masih tidak tahu banyak tentang bentuk serangan ini.

Sehubungan itu, pelakon jahat menggunakan kaedah terus bertanya dan mengajar semula maklumat palsu model AI, menyebabkan maklumat "keracunan".

Jika maklumat pada sistem awan telah "dijangkiti" dan tidak dikesan dan terus digunakan, ia akan memberikan maklumat yang salah atau menggunakan kelemahan ini untuk menyelinap ke dalam pangkalan data bagi tujuan mendapatkan maklumat.

Encik Dao Viet Hung, pengarah negara Akamai Technologies Vietnam - Foto: CHI HIEU

Encik Dao Viet Hung memetik kisah yang jarang berlaku, apabila sistem chatbot jualan dalam talian sebuah syarikat kereta diyakinkan untuk menjual kereta baharu pada harga $1 sahaja.

Sebabnya semasa proses bertukar-tukar dan berunding dengan chatbot, pelanggan ini menemui jalan untuk "menyelinap" ke dalam pangkalan data dan meyakinkan chatbot untuk bersetuju dengan permintaan di atas.

Contoh lain ialah apabila penggodam berjaya memperoleh semua dokumen sulit dan carta organisasi syarikat hanya dengan mengarang soalan yang sesuai dan menghantarnya ke chatbot AI dalaman.

Daripada risiko itu, Encik Dao Viet Hung berkongsi penyelesaian keselamatan AI supaya AI sendiri boleh melindungi AI, ini adalah bentuk yang digunakan oleh banyak perusahaan besar di dunia .

Dengan kaedah keselamatan ini, data yang disimpan menyepadukan berbilang lapisan perlindungan, menjadikannya sukar untuk "dijangkiti".

Sistem keselamatan AI boleh mengesan maklumat mana yang bersih dan maklumat mana yang mempunyai potensi risiko serangan, yang mana akan ada pelan pengendalian yang cepat dan sesuai...

Kembali ke topik

BERTAQWA

Sumber: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm