A hackerek bizalmas céges információkhoz juthatnak, ha „beszélgetnek” egy mesterséges intelligenciával működő chatbottal

Technológiai szakértők szerint kifinomult parancssorok segítségével a hackerek észrevétlenül behatolhatnak egy vállalat „bizalmas” adatbázisába.

Az OpenInfra & Cloud Native Day Vietnam 2025 rendezvény áttekintése, melynek témája a "Vietnam digitális áttörésének korszaka" volt - Fotó: CHI HIEU

A mesterséges intelligencia (MI) számos értéket képvisel, különösen most, hogy sok vállalkozás integrálja a végfelhasználók, például a vállalati alkalmazottak és az ügyfelek kiszolgálására... Innentől kezdve a MI-vel integrált chatbot rendszerek „szűk kapuvá” válhatnak a hackerek számára, hogy megtámadják és ellopják az adattároló rendszereken található információkat.

„Jelenleg számos módszer létezik a mesterséges intelligencia modelljeinek támadására, amelyek közül a leggyakoribb a „tartalommérgezés”, amely a hagyományos információvédelmi rendszerek számára „láthatatlannak” tűnik” – figyelmeztetett Dao Viet Hung úr, az Akamai Technologies Vietnam országigazgatója a július 26-án Hanoiban megrendezett OpenInfra & Cloud Native Day Vietnam 2025 rendezvényen.

Az eseményt a Vietnami Internet Szövetség (VIA) szervezte a Vietnami Nyílt Infrastruktúra Közösséggel (VietOpenInfra), a Vietnami Felhőalapú Számítástechnikai és Adatközpont Klubbal (VNCDC) együttműködve, a Tudományos és Technológiai Minisztérium támogatásával.

A vállalkozások 90%-a nyílt platformokat vagy szoftvereket használ

Megnyitóbeszédében Vu The Binh úr – a Vietnami Internet Szövetség alelnöke és főtitkára – hangsúlyozta a nyílt infrastruktúra és a nyílt forráskód fontosságát a nemzeti digitális átalakulási folyamatban.

A globális technológia gyors változásainak kontextusában Binh úr elmondta, hogy a nyílt infrastruktúra folyamatosan fejlődik az innováció alapjaként, mivel a vállalkozások több mint 90%-a nyílt platformokat vagy szoftvereket használ különféle formákban.

Egy Red Hat felmérés (2024) szerint a technológiai vezetők 82%-a a nyílt platformokat és szoftvereket kulcsfontosságúnak tartja a digitális átalakulás előmozdításában és az innováció felgyorsításában. Az olyan platformok, mint a Kubernetes, az OpenStack, a Linux, a Ceph és az OpenTelemetry, egyre fontosabb szerepet játszanak a mesterséges intelligencia, az IoT, az 5G/6G és a Cloud Native rendszerek működtetésében.

„10 évvel ezelőtt a felhőt összetéveszthették az égbolt felhőivel, és a nyílt forráskódú szoftverek „harcművészeti titoknak” tűntek. De ma itt vagyunk, több mint 180 országban kapcsolódunk a globális Nyílt Infrastruktúra közösséghez, és együtt a kódsorokat az innováció hajtóerejévé alakítjuk” – osztotta meg Vu The Binh úr.

AI Chatbot - „szűk ajtó” a hackerek számára a rendszerbe való behatoláshoz

„Jelenleg számos vállalkozás erőteljesen alkalmazza a nyílt, reszponzív platformok hatékonyságát, amelyek olyan rendszereket integrálnak, mint a mesterséges intelligencia alapú chatbotok, hogy segítsenek javítani a munkateljesítményt és fokozni a felhasználói élményt.

Innentől kezdve számos támadási módszer létezik a mesterséges intelligencia modelljei ellen, beleértve a „tartalommérgezéses” támadásokat is – figyelmeztetett Dao Viet Hung, az Akamai Technologies Vietnam országigazgatója.

Megjegyezte, hogy a vietnami vállalkozások a mesterséges intelligencia bevezetésekor még mindig nem sokat tudnak erről a támadási formáról.

Ennek megfelelően a rosszindulatú szereplők azt a módszert alkalmazzák, hogy folyamatosan hamis információkat kérdeznek és tanítanak a mesterséges intelligencia modelljének, ami információ „mérgezést” okoz.

Ha a felhőalapú rendszeren található információk „fertőzöttek”, és nem észlelik őket, valamint továbbra is használják őket, akkor helytelen információkat fognak szolgáltatni, vagy ezt a sebezhetőséget kihasználva bejutnak az adatbázisba információk megszerzése céljából.

Dao Viet Hung úr, az Akamai Technologies Vietnam országigazgatója - Fotó: CHI HIEU

Dao Viet Hung úr egy ritka történetet említett, amikor egy autógyártó cég online értékesítési chatbot rendszerét meggyőzték arról, hogy egy új autót mindössze 1 dollárért adjanak el.

Ennek az az oka, hogy a chatbottal folytatott csere és tárgyalás során ez az ügyfél talált egy módot arra, hogy „beosonjon” az adatbázisba, és meggyőzze a chatbotot a fenti kérés elfogadásáról.

Egy másik példa, amikor a hackerek sikeresen megszerezték egy vállalat összes bizalmas dokumentumát és szervezeti ábráját pusztán megfelelő kérdések megfogalmazásával és a belső mesterséges intelligencia alapú chatbotnak való elküldésével.

Ettől a kockázattól védve Dao Viet Hung úr megosztotta a mesterséges intelligencia által létrehozott biztonsági megoldást, amely lehetővé teszi, hogy maga a mesterséges intelligencia is megvédje a mesterséges intelligenciát. Ezt a formát a világ számos nagyvállalata használja.

Ennél a biztonsági módszernél a tárolt adatok több védelmi réteget integrálnak, ami megnehezíti a „fertőződést”.

A mesterséges intelligencia biztonsági rendszere képes felismerni, hogy mely információk tiszták, és melyek jelentenek potenciális támadási kockázatot, ami alapján gyors és megfelelő kezelési tervet lehet kidolgozni...

Vissza a témához

KEGYESSÉG

Forrás: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm