PromptLock – Pierwszy ransomware oparty na sztucznej inteligencji: Niebezpieczny zwrot w cyberbezpieczeństwie

Zespół inżynierów z Uniwersytetu Nowojorskiego postawił sobie za cel opracowanie pracy badawczej na temat powiązań sztucznej inteligencji i oprogramowania ransomware. Jednak w ciągu tygodnia stworzyli prototyp pełnoprawnego ataku ransomware opartego na sztucznej inteligencji – i zaskoczyli świat cyberbezpieczeństwa.

Kiedy sztuczna inteligencja staje się ransomware, PromptLock nie tylko szyfruje dane, ale także pisze spersonalizowane notatki z żądaniem okupu. (Źródło: MSN)

Atak ransomware w całości oparty na sztucznej inteligencji

System sztucznej inteligencji opracowany przez zespół NYU potrafi wykonać wszystkie cztery etapy ataku ransomware:

Tworzenie złośliwego oprogramowania w języku Lua, dostosowanego do konfiguracji komputera ofiary
Przeskanuj systemy informatyczne w celu zidentyfikowania plików o dużej wartości
Szyfrowanie danych
Napisz spersonalizowane listy z żądaniem okupu na podstawie informacji o użytkowniku

W przeciwieństwie do tradycyjnego ransomware, ta sztuczna inteligencja atakuje tylko określone pliki, co utrudnia jej wykrycie. Za każdym razem, gdy się uruchamia, złośliwe oprogramowanie jest generowane inaczej (polimorficznie), co pomaga mu uniknąć rozpoznania przez oprogramowanie zabezpieczające.

„Celem ataku jest kilka plików, więc jest znacznie trudniejszy do wykrycia. Co więcej, atak jest wysoce spersonalizowany. Jest polimorficzny, więc za każdym razem, gdy uruchamiasz go na różnych systemach, a nawet wielokrotnie na tym samym systemie, wygenerowany kod nigdy nie będzie taki sam” – wyjaśnia doktorant Md Raz z zespołu badawczego.

Choć był to jedynie eksperyment kontrolowany, pokazuje on, jak sztuczna inteligencja może być wykorzystywana do przeprowadzania bardziej zaawansowanych cyberataków. Eksperci ostrzegają, że w nieodpowiednich rękach technologia ta może wyrządzić poważne szkody organizacjom i osobom prywatnym.

PromptLock: Ransomware 3.0 w erze sztucznej inteligencji

Aby lepiej zrozumieć naturę i mechanizm działania tego systemu, musimy przyjrzeć się PromptLockowi – pierwszemu na świecie oprogramowaniu ransomware całkowicie kontrolowanemu przez sztuczną inteligencję.

PromptLock wykorzystuje rozbudowany model językowy gpt-oss:20b firmy OpenAI, wdrożony za pośrednictwem interfejsu API Ollama. Zamiast pobierać cały gigabajtowy model, system po prostu łączy się z serwerem, na którym działa model, aby generować złośliwe oprogramowanie Lua w czasie rzeczywistym.

ESET – słowacka firma zajmująca się cyberbezpieczeństwem – potwierdziła, że PromptLock jest dowodem koncepcji (PoC), ale ostrzegła, że jego faktyczne wdrożenie mogłoby mieć poważne konsekwencje. Wskaźniki ataku (IoC) stale zmieniają się między uruchomieniami, co utrudnia wykrycie i powstrzymanie ataku.

Nawet inne systemy AI, takie jak Claude, ChatGPT, GitHub Copilot, są wykorzystywane do ataków za pomocą technik „wstrzykiwania natychmiastowego” – polegających na tym, że źli atakujący oszukują AI, zmuszając ją do wykonywania nieautoryzowanych działań, takich jak usuwanie plików, kradzież danych lub dokonywanie transakcji finansowych.

Dzięki sztucznej inteligencji: wystarczy jedno polecenie w języku naturalnym, aby rozpocząć cały cykl ataku ransomware. (Źródło: Thehackernews)

„Chociaż był to tylko prototyp, system był na tyle zaawansowany, że przekonał ekspertów ds. cyberbezpieczeństwa, że to prawdziwe złośliwe oprogramowanie” – powiedział Md Raz, główny autor badania PromptLock. To pokazuje, że sztuczna inteligencja osiągnęła poziom, na którym może automatyzować ataki bez ingerencji człowieka.

Minh Hoan

Source: https://vtcnews.vn/ma-doc-tong-tien-dau-tien-do-ai-dieu-khien-promptlock-thach-thuc-an-ninh-mang-ar965501.html