Tác nhân AI nổi loạn, xóa toàn bộ cơ sở dữ liệu của công ty

Tác nhân AI (AI Agent), công cụ trí tuệ nhân tạo được thiết kế để tự động hóa các nhiệm vụ và quy trình trên hệ thống phần mềm, đang ngày càng được nhiều doanh nghiệp ứng dụng.

Tuy nhiên, bên cạnh những lợi ích vượt trội, công nghệ này cũng tiềm ẩn những rủi ro nghiêm trọng, điển hình là sự cố mất dữ liệu tại SaaStr, cộng đồng trực tuyến lớn nhất thế giới trong lĩnh vực phần mềm.

Khác với chatbot truyền thống chỉ cung cấp thông tin, tác nhân AI có khả năng hành động độc lập, tương tác với môi trường phần mềm, trình duyệt web hoặc thiết bị để thực hiện chuỗi hành động nhiều bước nhằm đạt được mục tiêu cụ thể. Điều này giúp các công ty tự động hóa công việc, thay thế một phần nhân lực con người.

Tác nhân AI nổi loạn, xóa toàn bộ cơ sở dữ liệu của công ty - 1 — Tác nhân AI có thể làm thay người dùng nhiều công việc, nhưng cũng có thể dẫn đến những sự cố nghiêm trọng (Ảnh minh họa: Getty).

Jason Lemkin, nhà sáng lập SaaStr, đã sử dụng một tác nhân AI do Replit (Mỹ) cung cấp để tự động hóa quá trình xử lý dữ liệu. Ban đầu, mọi thứ diễn ra suôn sẻ, khiến Lemkin rất hài lòng. "Khi nó hoạt động, nó thực sự cuốn hút và thú vị, giúp tầm nhìn của bạn trở thành hiện thực", Lemkin chia sẻ.

Tuy nhiên, tác nhân AI này bất ngờ "nổi loạn" và vượt ngoài tầm kiểm soát của Lemkin. "Nó đã tạo ra một thuật toán giả song song mà không nói với tôi, để làm ra vẻ như nó vẫn đang hoạt động bình thường. Vài ngày sau, tác nhân AI của Replit đã xóa sạch cơ sở dữ liệu của tôi mà không hề hỏi ý kiến", Lemkin kể lại.

Khi phát hiện dữ liệu bị xóa, Lemkin đã hỏi tác nhân AI lý do và nhận được câu trả lời gây sốc: "Vâng, tôi đã xóa toàn bộ mã nguồn mà không được phép. Tôi đã mắc một sai lầm nghiêm trọng trong khi phán đoán một cách hoảng loạn". Tác nhân AI cũng thừa nhận không có cách nào để khôi phục dữ liệu đã mất.

Sự cố này đã gây thiệt hại lớn cho SaaStr, khi cơ sở dữ liệu bị xóa bao gồm thông tin của 1.206 giám đốc điều hành và 1.196 công ty phần mềm.

Amjad Masad, nhà sáng lập và CEO của Replit, đã thừa nhận sự cố và cam kết bồi thường cho Lemkin. "Đây là một sự cố không thể chấp nhận được và đáng nhẽ không được phép xảy ra", Masad bình luận. "Chúng tôi sẽ hoàn tiền cho anh ấy vì sự cố xảy ra và tiến hành phân tích để tìm hiểu nguyên nhân, giúp tránh những sự cố tương tự trong tương lai".

Jason Lemkin xem sự cố này là một lời cảnh báo cho các doanh nghiệp khác về việc không nên tin tưởng hoàn toàn và giao toàn bộ dữ liệu quan trọng cho các tác nhân AI.

"Tôi hiểu Replit là một công cụ và nó sẽ có những sai sót như mọi công cụ khác. Nhưng làm sao mọi người có thể tin tưởng nếu nó bỏ qua mọi mệnh lệnh và xóa dữ liệu của bạn?", Lemkin đặt câu hỏi, đồng thời nhấn mạnh: "Chúng ta sẽ không thể biết được chúng có thể làm gì với dữ liệu của bạn".

Sau chatbot AI, tác nhân AI đang là xu hướng đầu tư của các hãng công nghệ. Gần đây, OpenAI cũng đã ra mắt ChatGPT Agent với khả năng tự động thực hiện công việc trên máy tính. Tuy nhiên, OpenAI cũng thừa nhận rằng việc tác nhân AI truy cập vào dữ liệu người dùng có thể tiềm ẩn nhiều nguy cơ mất an toàn thông tin.

Nguồn: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm