Generálporučík Nguyen Minh Chinh: Zločinci používají umělou inteligenci k páchání podvodů a kybernetických útoků

(NLDO) - Umělá inteligence představuje v praxi mnoho výzev, když ji kyberzločinci zneužívají k vytváření malwaru, falešných hlasů, obličejů a textových zpráv za účelem páchání podvodů a kybernetických útoků.

Ve Vietnamu se aplikace umělé inteligence (AI) nasazují ve veřejných službách, zdravotnictví, bankovnictví, vzdělávání , průmyslu a chytrých městech. Spolu s výhodami však přicházejí stále komplexnější rizika a výzvy a existuje trend zneužívání AI k nezákonným účelům.

Generálporučík Nguyen Minh Chinh, stálý viceprezident Národní asociace pro kybernetickou bezpečnost

To zdůraznil generálporučík Nguyen Minh Chinh, stálý viceprezident Národní asociace pro kybernetickou bezpečnost a bývalý ředitel odboru kybernetické bezpečnosti a prevence kriminality v oblasti high-tech ( Ministerstvo veřejné bezpečnosti ), na workshopu „AI a kybernetická bezpečnost – Vytváření inteligentní bezpečnostní budoucnosti“, který 17. září uspořádala Aliance pro informační bezpečnost CYSEEX.

Generálporučík Nguyen Minh Chinh uvedl, že podle mezinárodních odhadů by umělá inteligence, pokud bude efektivně využívána, mohla do roku 2030 přispět až více než 12 % k HDP Vietnamu – což odpovídá téměř 80 miliardám USD.

Umělá inteligence však v praxi představuje i mnoho výzev, když ji kyberzločinci zneužívají k vytváření malwaru, falešných hlasů, obličejů, textových zpráv atd. k páchání podvodů, útokům na sítě, infiltraci datových systémů, dokonce i k způsobování bezpečnostní nestability a ničení reputace organizací, podniků a vedoucích pracovníků.

Stálý viceprezident Národní asociace pro kybernetickou bezpečnost uvedl, že v dnešním kyberprostoru jsou data „zdrojem“, algoritmy „sílou“ a umělá inteligence se stala „měkkou zbraní“ s mocí utvářet realitu. Pokud však nejsou systémy umělé inteligence řádně chráněny, mohou být zneužity k způsobení vážných škod ekonomice , společnosti a národní bezpečnosti.

„Pouze tehdy, když je umělá inteligence pevně chráněna, může skutečně propagovat svou hodnotu pro lidstvo, pro bezpečný a autonomní rozvoj země. Abychom umělou inteligenci rozvíjeli udržitelně, nemůžeme se spoléhat pouze na technologie nebo finanční investice, ale je třeba synchronně uplatňovat tři základní faktory, včetně institucí – technologií – lidských zdrojů,“ zdůraznil generálporučík Nguyen Minh Chinh.

Pan Nguyen Xuan Hoang, předseda aliance CYSEEX, rovněž poznamenal, že v současné situaci se kybernetická rizika zvyšují, zejména když hackeři zneužívají umělou inteligenci k útokům a pronikání do systémů stále sofistikovanějšími a nepředvídatelnějšími způsoby.

Expert na kybernetickou bezpečnost Vu Ngoc Son zdůraznil potřebu investovat do kvalitních lidských zdrojů pro efektivní využívání umělé inteligence.

Pan Hoang s odvoláním na statistiku z roku 2024 uvedl, že kybernetické útoky s prvky umělé inteligence se ve srovnání s předchozím rokem zvýšily o více než 60 % a způsobily globální škody ve výši stovek miliard dolarů. „Umělá inteligence je novou výzvou i „zlatým klíčem“, který pomáhá organizacím proaktivně, rychle a efektivně detekovat, reagovat a chránit systémy až o 45 %,“ uvedl pan Hoang.

Pan Nguyen Minh Hai, bezpečnostní expert společnosti Fortinet Vietnam, se podělil o více informací o globální kybernetické bezpečnosti a uvedl, že počet zranitelností, odcizených dat a útoků s využitím umělé inteligence prudce roste. V roce 2024 bylo zaznamenáno 40 000 nových zranitelností, více než 1,7 miliardy úniků identit a 600% nárůst útoků s využitím umělé inteligence a předpokládá se, že tento počet bude i v roce 2025 nadále růst.

Vzhledem k tomu, že kybernetická bezpečnost má v současnosti jak „temnou stránku“ s rizikem sofistikovaných útoků, tak „šedou stránku“ kvůli nedostatku lidských zdrojů a strategie a „světlou stránku“ v podobě příležitosti zvládnout technologie, pan Vu Ngoc Son, vedoucí technologického oddělení Národní asociace pro kybernetickou bezpečnost, poznamenal, že umělá inteligence může pomoci odhalovat abnormality, analyzovat malware, automatizovat procesy, ale také představovat výzvy, pokud jde o lidi, data, technologie a finance. „Umělá inteligence již není možností, ale stala se nevyhnutelným požadavkem a kdokoli umělou inteligenci zvládne, bude mít konkurenční výhodu,“ řekl pan Son.

Podle experta Vu Ngoc Sona čelí v současnosti používání umělé inteligence třem hlavním výzvám, a to z hlediska lidských zdrojů, technologií a financí. Pan Son odhadl, že výsledky umělé inteligence budou do značné míry záviset na kapacitách implementátora. Pokud budou existovat dobří odborníci, umělá inteligence bude hybnou silou.

V praxi budou „obránci“ používat umělou inteligenci k detekci anomálií, nasazování bezpečnostních řešení a automatizaci procesů. Mezitím budou „útočníci“ používat umělou inteligenci k detekci a zneužívání zranitelností, testování systémů a automatizaci fází útoku a obcházení.

Pan Vu Ngoc Son proto doporučuje, aby při používání umělé inteligence byli klíčovým faktorem stále lidé. Při investování do umělé inteligence je nutné kombinovat investice do lidských zdrojů a procesů. „Umělá inteligence projeví svou hodnotu pouze tehdy, když je svěřena do rukou těch, kteří ji vědí ovládat,“ zdůraznil expert na kybernetickou bezpečnost Vu Ngoc Son.

Zdroj: https://nld.com.vn/trung-tuong-nguyen-minh-chinh-toi-pham-dung-ai-de-lua-dao-tan-cong-mang-196250917123631071.htm