Mối nguy khi tội phạm sở hữu 'AI đen'

Những công cụ AI được đào tạo chuyên biệt cho mục đích tấn công mạng đang ngày càng phát huy hiệu quả, khiến việc đối phó cũng phức tạp hơn.

AI đang trở thành trợ thủ đắc lực của tội phạm mạng. Ảnh: Cato Networks.

Không chỉ người dùng thông thường, tội phạm mạng cũng đang ngày càng sử dụng AI nhiều hơn để tạo ra những cuộc tấn công tinh vi hơn bao giờ hết. Chỉ trong chưa đầy 2 năm, những công cụ AI hỗ trợ cho hacker đã phát triển nhanh chóng về mặt tính năng và hiệu quả.

Ông Adrian Hia, Giám đốc Kaspersky khu vực Châu Á và Nhật Bản (APJ) nhận định AI đen (Dark AI) đóng vai trò rất lớn trong sự tăng trưởng nhanh chóng của mã độc. Số liệu từ Kaspersky cho thấy mỗi ngày, có tới gần nửa triệu phần mềm độc hại được tạo ra.

"Dark AI giống như dark web - là mặt tối của web mà chúng ta sử dụng hàng ngày”, ông Hia nhận định

Sergey Lozhkin, Trưởng nhóm nghiên cứu và phân tích toàn cầu (GReAT) của Kaspersky khu vực Châu Á – Thái Bình Dương (APAC) và Trung Đông, Châu Phi, Thổ Nhĩ Kỳ (META) cho rằng Dark AI hoàn toàn khác biệt với các chatbot AI thông thường, như ChatGPT hay Gemini.

AI mà người dùng quen thuộc được tạo ra để hỗ trợ người dùng và thực hiện những tác vụ hợp pháp, và kể cả khi ra lệnh cho chúng tạo mã độc hoặc làm những hoạt động bất hợp pháp, người dùng cũng sẽ khó đạt mục đích.

Trong khi đó, Dark AI “thực sự là LLM hoặc chatbot được tạo ra chỉ để thực hiện hoạt động độc hại trong không gian mạng", ông Lozhkin nhận định. Những AI này được huấn luyện để tạo mã độc, nội dung lừa đảo, hoặc thậm chí là một framework hoàn chỉnh để tội phạm mạng sử dụng nhằm lừa đảo.

Hệ thống AI ngầm chỉ dành cho hacker uy tín

Những hệ thống này, được ông Lozhkin gọi là Black Hat GPT hay “GPT mũ đen”, đã xuất hiện từ năm 2023. Đại diện Kaspersky cho rằng khi đó những AI còn rất cơ bản, tạo code rất tệ và có thể bị phát hiện ngay lập tức.

Tuy nhiên, gần đây những hệ thống GPT mũ đen đã hoàn thiện hơn, có thể cung cấp rất nhiều chức năng, từ tạo mã độc, nội dung lừa đảo, tới giả giọng nói, video. Có thể kể đến một số cái tên như WormGPT, DarkBard hay FraudGPT.

Sergey Lozhkin, chuyên gia nghiên cứu của Kaspersky cảnh báo chất lượng Dark AI ngày càng tốt lên. Ảnh: Minh Khôi.

Một trong những khám phá đáng lo ngại nhất của Kaspersky là sự tồn tại của các hệ thống Dark AI riêng tư, chỉ được cung cấp cho những tội phạm mạng có uy tín. Để có quyền truy cập vào những hệ thống AI riêng tư này, tin tặc phải xây dựng danh tiếng trên các diễn đàn ngầm.

"Chỉ khi bạn được tin tưởng, bạn mới có thể truy cập vào những loại hệ thống này. Bạn cần phải xây dựng danh tiếng trên các diễn đàn ngầm để được tiếp cận những trợ lý này", chuyên gia Kaspersky cho biết.

Ông Lozhkin cho biết Kaspersky có đơn vị “Tình báo dấu chân điện tử” (Digital Footprint Intelligence), dành nhiều năm để thâm nhập các diễn đàn ngầm và theo dõi, giám sát hoạt động. Khi có thể tiếp cận các hệ thống mới, công ty tiếp tục phải dành rất nhiều thời gian để tìm hiểu cách sử dụng, các chức năng và độ hiệu quả của Dark AI.

Dark AI ngày càng mạnh mẽ

Dark AI đang trở thành công cụ hiệu quả cho những hacker có trình độ. Với những người chỉ biết cơ bản về lập trình, việc yêu cầu công cụ tạo ransomware có thể sẽ chỉ tạo ra một phần mềm dễ dàng bị antivirus nhận biết. Tuy nhiên, với kẻ có trình độ, kinh nghiệm, Dark AI có thể tăng năng suất viết code, tạo ra mã độc mới.

"Chất lượng này phụ thuộc rất nhiều vào từng platform hoặc Dark AI cụ thể. Một số tạo ra mã chất lượng rất thấp, nhưng cũng có công cụ có thể đạt mức 7-8 điểm trên 10", ông Lozhkin chia sẻ với Tri Thức – Znews.

Một ví dụ điển hình là khả năng tạo mã đa hình (polymorphic code). Trước đây, khi một đoạn mã độc bị antivirus phát hiện, hacker phải mất nhiều thời gian để thay đổi mã. Giờ đây, Dark AI có thể thực hiện việc này "gần như tức thì" để tạo ra phiên bản khó phát hiện hơn.

Ngoài ra, các LLM đen tối cũng phá bỏ rào cản ngôn ngữ trong các cuộc tấn công lừa đảo. Chuyên gia từ Kasperksy cho rằng những email lừa đảo thế hệ mới khó phát hiện hơn bởi thứ tiếng Anh gần như hoàn hảo, thậm chí có thể “trông giống hệt như giọng của CEO”.

Một số hệ thống Dark AI "trọn gói" vừa có thể tạo mã, vừa tích hợp giả giọng, gửi email lừa đảo. Ảnh: Kaspersky.

Khả năng tạo giọng nói, hình ảnh giả mạo của hệ thống Dark AI chuyên biệt cũng ngày càng hoàn thiện. Ông Lozhkin thậm chí cho rằng bản thân “không còn tin vào cuộc gọi video” nhờ những kinh nghiệm của người làm bảo mật.

Tuy nhiên, chuyên gia từ Kaspersky cũng nhận định người dùng vẫn có thể nhận biết một cuộc gọi lừa đảo thông qua hành vi cá nhân, thói quen nói chuyện và một số đặc điểm chỉ riêng họ có.

“Những đặc điểm này khó làm giả, vì vậy hãy cố liên lạc trực tiếp với người mà bạn tin rằng đang bị giả mạo", nhà nghiên cứu bảo mật nói với Tri Thức – Znews.

"Cuộc đua vũ trang AI"

Sự phát triển của Dark AI đã châm ngòi cho cuộc đua công nghệ giữa tội phạm mạng và các chuyên gia an ninh mạng. "Cá nhân tôi đang sử dụng AI cho mọi thứ ngay bây giờ - nghiên cứu, lập trình, dịch ngược mã độc. Năng suất của tôi trong năm nay tăng gấp 10-20 lần so với trước đây", Lozhkin thừa nhận.

"Nếu bạn không sử dụng AI để tạo ra cơ chế phòng thủ trong khi kẻ xấu dùng AI để tấn công, bạn sẽ thua cuộc. Đây là khởi đầu của cuộc đua giữa phe thiện và phe ác sử dụng AI", ông cảnh báo.

Ông Adrian Hia, Giám đốc Kaspersky APJ cho rằng Dark AI đang giúp tạo ra mã độc nhanh hơn. Ảnh: Minh Khôi.

Google đã báo cáo chặn được hơn 20 hoạt động độc hại từ các nhóm được nhà nước tài trợ đang cố gắng sử dụng ChatGPT để tạo mã độc và lên kế hoạch tấn công. Trong năm 2024, họ xác định có 40 nhóm APT được chính phủ hậu thuẫn đang sử dụng các mô hình AI.

Đặc biệt đáng lo ngại là các framework hoàn chỉnh như Xanthorox, cung cấp dịch vụ "trọn gói" với giá 200 USD mỗi tháng. Hệ thống này tích hợp tạo giọng giả, email lừa đảo và các công cụ tấn công khác trong một giao diện dễ sử dụng.

Chuyên gia của Kaspersky cảnh báo Dark AI hiện mới chỉ như một đứa trẻ. Trong vài năm tới, ông Adrian Hia dự đoán chi phí sử dụng có thể sẽ rẻ hơn nhiều, và chưa thể biết được khi đó chúng sẽ phát triển đến đâu.

“Nhưng điều tôi hoàn toàn chắc chắn là chúng tôi sẽ sẵn sàng, vì chúng tôi đang làm điều tương tự nhưng từ phía đối lập", ông Lozhkin nhận định.

Nguồn: https://znews.vn/moi-nguy-khi-toi-pham-so-huu-ai-den-post1574400.html