Zranitelnost Microsoft Copilot: Nové varování před rizikem úniku dat z umělé inteligence

Lỗ hổng bảo mật - Ảnh 1. — EchoLeak a potenciální rizika umělé inteligence

Vzhledem k tomu, že se umělá inteligence (AI) stává součástí všeho od psaní zpráv, přes odpovídání na e-maily až po analýzu dat, zdá se, že žijeme v éře nebývalého pohodlí. Začíná se však projevovat i stinná stránka pohodlí, zejména pokud jde o bezpečnost.

Nedávná bezpečnostní zranitelnost s názvem EchoLeak vystavila uživatele služby Microsoft Copilot riziku úniku citlivých dat, aniž by museli podniknout jakékoli kroky.

Když se umělá inteligence stane bezpečnostní zranitelností

Podle výzkumu serveru Tuoi Tre Online je EchoLeak nově zaznamenaná bezpečnostní zranitelnost s kódem CVE-2025-32711, kterou odborníci podle stupnice NIST ohodnotili jako nebezpečnou na 9,3/10.

Bezpečnostní experty znepokojuje fakt, že se jedná o útoky typu „zero-click“ : útočníci mohou zneužít data z Copilotu, aniž by uživatel musel kliknout, otevřít soubor nebo dokonce vědět, že se něco děje.

Nejedná se o jednoduchou chybu. Výzkumný tým společnosti Aim Labs, který chybu objevil, se domnívá, že EchoLeak odráží běžnou konstrukční chybu v systémech umělé inteligence založených na agentech a RAG. Protože Copilot je součástí sady aplikací Microsoft 365, která obsahuje e-maily, dokumenty, tabulky a harmonogramy schůzek milionů uživatelů, je potenciál úniku dat obzvláště vážný.

Problém nespočívá jen v konkrétním kódu, ale ve způsobu, jakým fungují rozsáhlé jazykové modely (LLM). Umělé inteligence potřebují k přesné reakci mnoho kontextu, a proto mají přístup k velkému množství dat na pozadí. Bez jasné kontroly vstupu a výstupu mohou být umělé inteligence „řízeny“ způsoby, kterých si uživatelé nejsou vědomi. To vytváří nový druh „zadních vrátek“, které nejsou způsobeny chybou v kódu, ale tím, že se umělé inteligence chovají mimo lidské chápání.

Microsoft rychle vydal záplatu a zatím nebyly hlášeny žádné reálné škody. Poučení z EchoLeak je však jasné: Když je umělá inteligence hluboce integrována do fungujících systémů, i malé chyby v tom, jak chápe kontext, mohou mít závažné bezpečnostní důsledky.

Čím pohodlnější se stává umělá inteligence, tím křehčí se stávají osobní data.

Incident EchoLeak vyvolává znepokojivou otázku: Důvěřují lidé umělé inteligenci natolik, že si neuvědomují, že je lze sledovat nebo odhalit jejich osobní údaje pouhou textovou zprávou? Nově objevená zranitelnost, která umožňuje hackerům tiše extrahovat data, aniž by uživatelé museli mačkat jakákoli tlačítka, je něco, co se kdysi dalo vidět jen ve sci-fi filmech, ale nyní je realitou.

Přestože aplikace umělé inteligence jsou stále populárnější, od virtuálních asistentů jako Copilot, chatbotů v bankovnictví a vzdělávání až po platformy umělé inteligence, které píší obsah a zpracovávají e-maily, většina lidí není varována před tím, jak jsou jejich data zpracovávána a ukládána.

„Chatování“ s umělou inteligencí už není jen o položení několika otázek pro pohodlí, ale může také neúmyslně odhalit vaši polohu, zvyky, emoce nebo dokonce informace o účtu.

Ve Vietnamu je mnoho lidí obeznámeno s používáním umělé inteligence v telefonech a počítačích, aniž by měli základní znalosti digitální bezpečnosti . Mnoho lidí sdílí s umělou inteligencí soukromé informace, protože se domnívají, že „je to jen stroj“. Ve skutečnosti se za tím ale skrývá systém, který dokáže zaznamenávat, učit se a přenášet data na jiná místa, zejména pokud platforma umělé inteligence pochází od třetí strany a nebyla jasně testována z hlediska bezpečnosti.

Aby se omezila rizika, uživatelé se nemusí nutně vzdát technologií, ale musí být více uvědomělí: měli by pečlivě zkontrolovat, zda aplikace umělé inteligence, kterou používají, má spolehlivý zdroj, zda jsou data šifrována, a zejména nesdílet citlivé informace, jako jsou čísla dokladů, bankovní účty, zdravotní informace... s žádným systémem umělé inteligence bez jasného varování.

Stejně jako v době, kdy se internet poprvé zrodil, i umělá inteligence potřebuje čas na zdokonalení a během této doby by se uživatelé měli jako první proaktivně chránit.

Sdílíte někdy s umělou inteligencí příliš mnoho informací?

Když píší příkazy jako „přepište mi tuto zprávu přátelštějším způsobem“ nebo „shrňte včerejší schůzku“, mnoho lidí si neuvědomuje, že všechny informace, které zadávají, včetně interních detailů, osobních pocitů a pracovních návyků, může umělá inteligence zaznamenat. Zvykli jsme si na chatování s chytrými nástroji natolik, že zapomínáme na hranici mezi pohodlím a soukromím.

Zpět k tématu

TUAN VI

Zdroj: https://tuoitre.vn/lo-hong-bao-mat-trong-microsoft-copilot-canh-bao-moi-ve-nguy-co-ro-ri-du-lieu-tu-ai-20250620103045262.htm