Využití umělé inteligence k filtrování phishingových webů

Skupina čtyř studentů ze Swinburne University ve Vietnamu úspěšně dokončila výzkum a testování nástroje umělé inteligence (AI) schopného identifikovat a filtrovat škodlivé a falešné webové stránky během několika sekund.

Od nápadu k činu

Vedoucí studentské skupiny Le Nguyen Viet Cuong uvedl, že členové skupiny si v poslední době všimli vzniku mnoha stále sofistikovanějších phishingových webových stránek, zatímco současná řešení, která se spoléhají na lidský faktor, jim nestačí zabránit.

Skupina čtyř studentů proto vytvořila webové stránky https://ai.chongluadao.vn/, které mohou přímo z webových stránek analyzovat, že si je uživatelé prohlížejí, a vyhodnotit tak jejich bezpečnost. „S využitím umělé inteligence a analýzy může skupina zjistit, jak podvádět, poskytovat uživatelům informace a zvyšovat jejich povědomí,“ uvedl Cuong.

Podle Truong Duc Sanga, člena týmu, tým použil populární modely umělé inteligence dostupné na trhu, jako jsou ChatGPT, Gemini, Claude, Grok, Deepseek... Po analýze a porovnání výsledků modelů, provozních nákladů, vyhodnocení přesnosti... tým vybral nejlepší a nejvhodnější technickou aplikaci pro realizaci projektu.

Využití umělé inteligence k filtrování podvodných webových stránek - Foto 1.

Skupina čtyř studentů na Swinburne University ve Vietnamu zkoumala aplikaci umělé inteligence, která dokáže identifikovat a filtrovat škodlivé webové stránky během několika sekund. Foto: DUY PHU

Další člen, student Nguyen Van Huy Quang, poukázal na to, že současné aplikace pro filtrování škodlivých a podvodných webových stránek na trhu používají informace, které poskytovatel již shromáždil z datového skladu, nikoli přímý obsah z webových stránek, které si uživatel prohlíží. „Použití analýzy pomocí umělé inteligence může uživatelům pomoci identifikovat škodlivé webové stránky a v reálném čase rozpoznat, jak nebezpečné dané webové stránky jsou,“ vysvětlil Quang.

Členové týmu, který tuto aplikaci zavádí, mají snadný přístup k webovým stránkám, stačí jim internet. Uživatelé mohou zadat URL adresu webových stránek podezřelých z podvodu, načež je umělá inteligence může okamžitě analyzovat a zkontrolovat.

Komunitní projekt

Mladí studenti, kteří studují umělou inteligenci a software, věří, že k úspěšné realizaci projektu nestačí znalosti získané ve škole, ale že je nezbytné odhodlání, samostudium a hledání znalostí.

Člen skupiny, student Nguyen Vinh Khang, uvedl, že se jedná o komunitní projekt, a proto skupina doufá, že jej bude moci široce šířit mezi uživatele, což pomůže zvýšit varování komunity před rizikem setkání s falešnými webovými stránkami, malwarem, podvody a ztrátou dat nebo majetku. Zároveň skupina doufá, že získá podporu od příslušných orgánů, aby mohla podvodným webovým stránkám včas předcházet, než se rozšíří.

Pokud jde o proces implementace, Duc Sang uvedl, že největším problémem bylo, že projekt používal rozsáhlé modely umělé inteligence a jazykové modely, které existovaly teprve 1–2 roky. „U předchozích projektů a předchůdců byla překážkou velmi omezená dokumentace. Tým musel mnohokrát zkoumat, zkoumat a experimentovat a ne pokaždé byly výsledky očekávané, takže to bylo poměrně časově náročné,“ vzpomínal Duc Sang.

Pro vedoucího týmu Le Nguyen Viet Cuonga je nejtěžší získávání dat, protože k trénování umělé inteligence je potřeba velké množství dat, zatímco informace a data na internetu jsou pouze na relativní úrovni.

„Protože víme, že žádný zdroj dat není dokonalý, musí členové data zadávat a upravovat ručně. Po zadání dat je čekání na výsledky od umělé inteligence zároveň obdobím vzrušení i nervozity. Zpracování velkých dat může trvat celý den, a poté, co jsou výsledky zveřejněny, pokračujeme v testování. Jsou chvíle, kdy si myslíme, že jsme uspěli, ale výsledky nejsou přesné. I když jsme zklamaní, celý tým je odhodlán najít cestu,“ řekl Cuong.

Přesnost až 98 %

Expert na kybernetickou bezpečnost Ngo Minh Hieu, ředitel projektu Chongluadao.vn, uvedl, že na konci roku 2024 při výuce kybernetické bezpečnosti na Swinburne University Vietnam objevil skupinu studentů, kteří byli nadšení a rychle se učili o aplikacích umělé inteligence, a tak se sešli, aby diskutovali o svých nápadech. Nástroj pro filtrování škodlivých webových stránek vyvinula skupina studentů se znalostmi a zkušenostmi členů projektu Chongluadao.vn s přesností více než 98 %.

„Sponzor“ projektu poznamenal, že tento nástroj pomáhá odhalit podvodné webové stránky velmi brzy, ještě předtím, než existuje databáze. Kromě toho má tento nástroj uživatelsky přívětivé rozhraní, které lze integrovat do rozhraní mnoha stran.

„Doufáme, že tento produkt budou moci využívat lidé, firmy i velké korporace. Doufáme také, že se studenti ve výzkumné skupině stanou generací F2 projektu Chongluadao.vn,“ uvedl pan Hieu.

Zdroj: https://nld.com.vn/ung-dung-ai-de-loc-website-lua-dao-196250422215400349.htm