PromptLock – Yapay Zeka Destekli İlk Fidye Yazılımı: Siber Güvenlikte Tehlikeli Bir Dönüş

New York Üniversitesi'ndeki bir mühendis ekibi, yapay zeka ve fidye yazılımlarının kesişim noktası üzerine bir araştırma makalesi geliştirmeye koyuldu. Ancak bir hafta içinde, tam teşekküllü bir yapay zeka destekli fidye yazılımı saldırısı için bir kavram kanıtı oluşturdular ve bu, siber güvenlik dünyasını şaşkına çevirdi.

Yapay zeka fidye yazılımına dönüştüğünde PromptLock yalnızca verileri şifrelemekle kalmıyor, aynı zamanda kişiselleştirilmiş fidye notları da yazıyor. (Kaynak: MSN)

Tamamen Yapay Zeka Destekli Fidye Yazılımı Saldırısı

NYU ekibi tarafından geliştirilen yapay zeka sistemi, fidye yazılımı saldırısının dört aşamasını birden gerçekleştirebiliyor:

Kurban makine yapılandırmasına göre özelleştirilmiş, Lua dilinde kötü amaçlı yazılım oluşturun
Yüksek değerli dosyaları belirlemek için BT sistemlerini tarayın
Veri şifreleme
Kullanıcı bilgilerine dayalı kişiselleştirilmiş fidye mektupları yazın

Geleneksel fidye yazılımlarının aksine, bu yapay zeka yalnızca belirli dosyaları hedef aldığından tespit edilmesi daha zordur. Her çalıştırıldığında kötü amaçlı yazılım farklı şekilde (polimorfik) üretilir ve bu da güvenlik yazılımları tarafından tanınmasını engeller.

Araştırma ekibinden doktora öğrencisi Dr. Raz, "Özellikle birkaç dosyayı hedef aldığı için tespit edilmesi çok daha zor. Dahası, saldırı oldukça kişiselleştirilmiş. Çok biçimli, yani farklı sistemlerde veya hatta aynı sistemde birden fazla kez çalıştırdığınızda, üretilen kod asla aynı olmayacak," diye açıklıyor.

Bu sadece kontrollü bir deney olsa da, yapay zekanın daha karmaşık siber saldırılar başlatmak için nasıl kullanılabileceğini gösteriyor. Uzmanlar, yanlış ellere geçtiğinde bu teknolojinin kurumlara ve bireylere ciddi zararlar verebileceği konusunda uyarıyor.

PromptLock: Yapay Zeka Çağında Fidye Yazılımı 3.0

Bu sistemin doğasını ve çalışma mekanizmasını daha iyi anlamak için, yapay zeka tarafından tamamen kontrol edilen dünyanın ilk fidye yazılımı olan PromptLock'u incelememiz gerekiyor.

PromptLock, Ollama API'si aracılığıyla dağıtılan OpenAI'nin büyük gpt-oss:20b dil modelini kullanır. Sistem, gigabayt boyutundaki modelin tamamını indirmek yerine, modeli çalıştıran bir sunucuya bağlanarak gerçek zamanlı olarak Lua kötü amaçlı yazılımı oluşturur.

Slovakyalı bir siber güvenlik şirketi olan ESET, PromptLock'un bir PoC olduğunu doğruladı, ancak gerçekten devreye girmesi halinde ciddi sonuçlar doğurabileceği konusunda uyardı. Saldırı göstergeleri (IoC'ler), yürütmeler arasında sürekli değişerek tespit ve kontrol altına almayı zorlaştırıyor.

Claude, ChatGPT, GitHub Copilot gibi diğer yapay zeka sistemleri bile "hızlı enjeksiyon" teknikleriyle istismar ediliyor. Bu tekniklerde kötü niyetli kişiler yapay zekayı kandırarak dosyaları silme, veri çalma veya finansal işlemler yapma gibi yetkisiz eylemler gerçekleştirmesini sağlıyor.

Yapay Zeka Sayesinde: Tüm fidye yazılımı saldırı döngüsünü başlatmak için tek bir doğal dil komutu yeterli. (Kaynak: Thehackernews)

PromptLock çalışmasının baş yazarı Md. Raz, "Sistem sadece bir prototip olmasına rağmen, siber güvenlik uzmanlarını gerçek bir kötü amaçlı yazılım olduğuna ikna edecek kadar gelişmişti," dedi. Bu, yapay zekanın insan müdahalesi olmadan saldırıları otomatikleştirebilecek bir seviyeye ulaştığını gösteriyor.

Yorum (0)