PromptLock – Die erste KI-gesteuerte Ransomware: Eine gefährliche Wendung in der Cybersicherheit

Ein Team von Ingenieuren der New York University hatte sich vorgenommen, eine Forschungsarbeit über die Schnittstelle zwischen KI und Ransomware zu verfassen. Doch innerhalb einer Woche hatten sie einen Proof-of-Concept für einen umfassenden KI-gesteuerten Ransomware-Angriff erstellt – und sorgte damit für Aufsehen in der Cybersicherheitswelt.

Wenn KI zur Ransomware wird: PromptLock verschlüsselt nicht nur Daten, sondern schreibt auch personalisierte Lösegeldforderungen. (Quelle: MSN)

Ransomware-Angriff vollständig durch KI gesteuert

Das vom NYU-Team entwickelte KI-System kann alle vier Phasen eines Ransomware-Angriffs durchführen:

Erstellen Sie Malware in der Sprache Lua, angepasst an die Konfiguration des Opfercomputers
Scannen Sie IT-Systeme, um wertvolle Dateien zu identifizieren
Datenverschlüsselung
Schreiben Sie personalisierte Lösegeldbriefe basierend auf Benutzerinformationen

Im Gegensatz zu herkömmlicher Ransomware zielt diese KI nur auf bestimmte Dateien ab, was ihre Erkennung erschwert. Bei jeder Ausführung wird die Malware anders generiert (polymorph), wodurch sie von Sicherheitssoftware nicht erkannt wird.

„Es zielt speziell auf einige wenige Dateien ab und ist daher viel schwieriger zu erkennen. Darüber hinaus ist der Angriff hochgradig personalisiert. Er ist polymorph, sodass der generierte Code jedes Mal, wenn Sie ihn auf verschiedenen Systemen oder sogar mehrmals auf demselben System ausführen, nie derselbe ist“, erklärt Doktorand Md Raz vom Forschungsteam.

Obwohl es sich nur um ein kontrolliertes Experiment handelte, zeigt es, wie KI für komplexere Cyberangriffe eingesetzt werden kann. Experten warnen, dass die Technologie in den falschen Händen Organisationen und Einzelpersonen ernsthaften Schaden zufügen könnte.

PromptLock: Ransomware 3.0 im KI-Zeitalter

Um die Natur und den Funktionsmechanismus dieses Systems besser zu verstehen, müssen wir uns PromptLock ansehen – die weltweit erste Ransomware, die vollständig durch künstliche Intelligenz gesteuert wird.

PromptLock verwendet das umfangreiche Sprachmodell gpt-oss:20b von OpenAI, das über die Ollama-API bereitgestellt wird. Anstatt das gesamte Gigabyte-große Modell herunterzuladen, verbindet sich das System einfach mit einem Server, auf dem das Modell läuft, um Lua-Malware in Echtzeit zu generieren.

ESET – ein slowakisches Cybersicherheitsunternehmen – bestätigte, dass es sich bei PromptLock um einen PoC handelt, warnte jedoch, dass ein tatsächlicher Einsatz schwerwiegende Folgen haben könnte. Die Angriffsindikatoren (IoCs) ändern sich zwischen den Ausführungen ständig, was die Erkennung und Eindämmung erschwert.

Sogar andere KI-Systeme wie Claude, ChatGPT und GitHub Copilot werden durch „Prompt Injection“-Techniken ausgenutzt – dabei verleiten böswillige Akteure die KI dazu, nicht autorisierte Aktionen auszuführen, wie etwa das Löschen von Dateien, den Diebstahl von Daten oder die Durchführung von Finanztransaktionen.

Dank KI: Ein einziger natürlicher Sprachbefehl genügt, um den gesamten Ransomware-Angriffszyklus zu starten. (Quelle: Thehackernews)

„Obwohl es sich nur um einen Prototyp handelte, war das System ausgereift genug, um Cybersicherheitsexperten davon zu überzeugen, dass es sich um echte Schadsoftware handelte“, sagte Md Raz, Hauptautor der PromptLock-Studie. Dies zeige, dass KI ein Niveau erreicht habe, auf dem sie Angriffe ohne menschliches Eingreifen automatisieren könne.

Minh Hoan

Quelle: https://vtcnews.vn/ma-doc-tong-tien-dau-tien-do-ai-dieu-khien-promptlock-thach-thuc-an-ninh-mang-ar965501.html