PromptLock – První ransomware řízený umělou inteligencí: Nebezpečný obrat v kybernetické bezpečnosti

Tým inženýrů na Newyorské univerzitě se pustil do vývoje výzkumné práce o propojení umělé inteligence a ransomwaru. Během týdne se jim však podařilo vytvořit koncept plnohodnotného útoku ransomwaru řízeného umělou inteligencí – a ten nechal svět kybernetické bezpečnosti v šoku.

Když se umělá inteligence stane ransomwarem, PromptLock nejen šifruje data, ale také vypisuje personalizované výzvu k výkupnému. (Zdroj: MSN)

Útok ransomwaru poháněný výhradně umělou inteligencí

Systém umělé inteligence vyvinutý týmem NYU dokáže provést všechny čtyři fáze útoku ransomwarem:

Vytvořte malware v jazyce Lua, přizpůsobený konfiguraci počítače oběti
Prohledejte IT systémy a identifikujte soubory s vysokou hodnotou
Šifrování dat
Pište personalizované výkupné dopisy na základě uživatelských informací

Na rozdíl od tradičního ransomwaru se tato umělá inteligence zaměřuje pouze na konkrétní soubory, což ztěžuje její detekci. Pokaždé, když je spuštěn, je malware generován odlišně (polymorfní), což mu pomáhá vyhnout se rozpoznání bezpečnostním softwarem.

„Cílí konkrétně na několik souborů, takže je mnohem těžší ho odhalit. Útok je navíc vysoce personalizovaný. Je polymorfní, takže pokaždé, když ho spustíte na různých systémech, nebo dokonce vícekrát na stejném systému, vygenerovaný kód nebude nikdy stejný,“ vysvětluje doktorand Md Raz z výzkumného týmu.

I když se jednalo pouze o kontrolovaný experiment, ukazuje, jak lze umělou inteligenci využít k provádění sofistikovanějších kybernetických útoků. Odborníci varují, že v nesprávných rukou by tato technologie mohla způsobit vážné škody organizacím i jednotlivcům.

PromptLock: Ransomware 3.0 v éře umělé inteligence

Abychom lépe pochopili podstatu a mechanismus fungování tohoto systému, musíme prozkoumat PromptLock – první ransomware na světě kompletně ovládaný umělou inteligencí.

PromptLock využívá rozsáhlý jazykový model gpt-oss:20b od OpenAI, nasazený prostřednictvím Ollama API. Místo stahování celého modelu o velikosti gigabajtů se systém jednoduše připojí k serveru, na kterém model běží, a v reálném čase generuje malware v jazyce Lua.

ESET – slovenská společnost zabývající se kybernetickou bezpečností – potvrdila, že PromptLock je PoC, ale varovala, že pokud by byl skutečně nasazen, mohl by mít vážné následky. Indikátory útoku (IoC) se mezi spuštěními neustále mění, což ztěžuje detekci a omezení útoku.

Dokonce i další systémy umělé inteligence, jako například Claude, ChatGPT a GitHub Copilot, jsou zneužívány prostřednictvím technik „prompt injection“ – kdy zločinci lstí přimějí umělou inteligenci k provedení neoprávněných akcí, jako je mazání souborů, krádež dat nebo provádění finančních transakcí.

Díky umělé inteligenci: Stačí jeden příkaz v přirozeném jazyce k zahájení celého cyklu útoku ransomwaru. (Zdroj: Thehackernews)

„I když se jednalo pouze o prototyp, systém byl dostatečně sofistikovaný na to, aby přesvědčil experty na kybernetickou bezpečnost, že se jedná o skutečný malware,“ řekl Md Raz, hlavní autor studie PromptLock. To ukazuje, že umělá inteligence dosáhla úrovně, kdy dokáže automatizovat útoky bez lidského zásahu.

Minh Hoan

Zdroj: https://vtcnews.vn/ma-doc-tong-tien-dau-tien-do-ai-dieu-khien-promptlock-thach-thuc-an-ninh-mang-ar965501.html