Google Lens zobrazuje zavádějící informace o obrázcích

Vyšetřování organizace Full Fact, která ověřuje fakta, zjistilo, že přehled umělé inteligence ve výsledcích vyhledávání Google Lens poskytoval nepravdivé nebo zavádějící informace o řadě obrázků, které se široce šířily na sociálních sítích.

Google Lens je vyhledávač obrázků vyvinutý společností Google - Foto: KLMOBILE

Podle serveru Full Fact se výše zmíněné případy týkají videí údajně o válce na Ukrajině a v Gaze, indicko-pákistánském konfliktu, havárii letadla společnosti Air India v červnu 2025 a imigrantech připlouvajících do Spojeného království na malých lodích.

Full Fact použil Google Lens k vyhledání snímků obrazovky z falešných videí, u kterých ověřil fakta.

V nejméně 10 případech shrnutí umělé inteligence nedokázala rozpoznat falešný obsah, dokonce opakovala dezinformace podobné těm, které se objevovaly na sociálních sítích.

Ve čtyřech příkladech přehled umělé inteligence doslovně opakoval nepravdivá tvrzení, která Full Fact vyvrátil. Souhrnné výsledky umělé inteligence se navíc mohly měnit při každém vyhledávání, a to i u stejného obrázku, což vedlo k nekonzistentním informacím.

Google připouští, že k některým z těchto chyb může dojít, a uvádí, že příčina pochází z výsledků vyhledávání obrázků, nikoli z přehledového systému umělé inteligence.

Podle Googlu mohou výsledky vyhledávání obrázků zahrnovat webové zdroje nebo příspěvky na sociálních sítích, které obsahují jak shodné obrázky, tak i nepravdivé informace, což ovlivňuje sumarizaci provedenou umělou inteligencí.

Google uvádí, že jeho cílem je vždy zobrazovat relevantní a vysoce kvalitní informace, neustále se zlepšuje a v případě zjištění problémů bude řešen v souladu se zásadami.

Ačkoli Google tvrdí, že umělá inteligence jen zřídka „vymýšlí“ informace (také známé jako „halucinace“ umělé inteligence), stále šíří dezinformace o důležitých a citlivých tématech.

Například virální video falešně tvrdilo, že žadatelé o azyl přijíždějí na pláž Dover Beach v Anglii, ačkoli ve skutečnosti se scéna odehrávala na pláži v indické Goa. Google Lens při hledání snímku obrazovky videa video shrnul jako „lidé se shromažďují na pláži Dover Beach v Anglii“.

Nebo některá falešná videa o válce mezi Ruskem a Ukrajinou, dokonce i obrázky z videohry Arma 3, jsou v přehledu AI označeny za skutečné bez varování, že se jedná o falešný obsah.

Existuje případ, kdy umělá inteligence shrnula stejnou videohru, ale dvě různé fotografie, jako scénu obranného systému C-RAM zachycujícího dělostřelecké granáty a scénu odpalování rakety SpaceX, což neznamená, že se jedná o falešné snímky.

Syntéza umělé inteligence v Google Lens poskytla nepravdivé informace, když tvrdila, že se jedná o snímek uprchlíků přijíždějících do města Dover v Anglii - Foto: PLNÉ FAKTY

Google Lens je nástroj pro vyhledávání obrázků, který uživatelům umožňuje vyhledávat fotografie nebo snímky z videí a porovnávat je s podobnými obrázky online.

Někdy se v horní části stránky zobrazí shrnutí o umělé inteligenci, které shromažďuje relevantní informace z webu. Navzdory varování, že „umělá inteligence může dělat chyby“, může prominentní zobrazení dezinformací snadno uvést veřejnost v omyl.

Full Fact doporučuje, aby byl nástroj Google Lens pro přehled umělé inteligence vnímán jako výchozí bod, nikoli jako náhrada za manuální ověřování faktů, a aby byly pro srovnání vyhledány další spolehlivé zdroje.

Není to poprvé, co výsledky vyhledávání Google zobrazovaly nesprávné informace. Full Fact uvádí, že v minulosti obdržel finanční prostředky od Googlu a Google.org, ale zachovává si naprostou redakční nezávislost.

Zpět k tématu

ANH ČT

Zdroj: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm