Google Lens affiche des informations trompeuses sur les images

Google Lens - Ảnh 1. — Google Lens est un moteur de recherche d'images développé par Google - Photo : KLMOBILE

Selon Full Fact, les cas mentionnés ci-dessus concernent des vidéos prétendument sur la guerre en Ukraine et à Gaza, le conflit indo-pakistanais, le crash de l'avion d'Air India en juin 2025 et des immigrants arrivant au Royaume-Uni dans de petits bateaux.

Full Fact a utilisé Google Lens pour rechercher des captures d'écran de fausses vidéos dont ils avaient vérifié les faits.

Dans au moins 10 cas, les résumés de l’IA n’ont pas réussi à reconnaître le faux contenu, répétant même des informations erronées similaires à celles diffusées sur les réseaux sociaux.

Dans quatre exemples, l'aperçu de l'IA répétait textuellement de fausses affirmations que Full Fact avait démenties. De plus, les résultats du résumé de l'IA pouvaient changer à chaque recherche, même pour la même image, ce qui provoquait des incohérences.

Google admet que certaines de ces erreurs peuvent se produire, affirmant que la cause provient des résultats de recherche d'images et non du système d'aperçu de l'IA.

Selon Google, les résultats de recherche d'images peuvent inclure des sources Web ou des publications sur les réseaux sociaux contenant à la fois des images correspondantes et de fausses informations, ce qui affecte le résumé de l'IA.

Google affirme qu'il s'efforce toujours d'afficher des informations pertinentes et de haute qualité, qu'il s'améliore continuellement et que lorsque des problèmes sont détectés, ils seront traités conformément à la politique.

Bien que Google affirme que l’analyse de l’IA « fabrique » rarement des informations (également appelée « hallucination » de l’IA), elle diffuse néanmoins de fausses informations sur des questions importantes et sensibles.

Par exemple, une vidéo virale a prétendu à tort que des demandeurs d'asile arrivaient à Dover Beach, en Angleterre, alors qu'en réalité, la scène se déroulait sur une plage de Goa, en Inde. Google Lens, en cherchant une capture d'écran de la vidéo, l'a résumée ainsi : « Rassemblement de personnes à Dover Beach, en Angleterre ».

Ou certaines fausses vidéos sur la guerre en Russie - Ukraine, même des images du jeu vidéo Arma 3, sont décrites par l'aperçu de l'IA comme réelles sans avertissement qu'il s'agit d'un faux contenu.

Il existe un cas où le même jeu vidéo mais deux photos différentes ont été résumées par l'IA comme une scène du système de défense C-RAM interceptant des obus d'artillerie et une scène de lancement d'une fusée SpaceX, ce qui ne veut absolument pas dire qu'il s'agit d'une fausse image.

Google Lens - Ảnh 2.

La synthèse d'IA de Google Lens a donné de fausses informations lorsqu'elle a affirmé qu'il s'agissait d'une image de réfugiés arrivant dans la ville de Douvres, en Angleterre - Photo : FULL FACT

Google Lens est un outil de recherche d'images qui permet aux utilisateurs de rechercher des photos ou des cadres à partir de vidéos à comparer avec des images similaires en ligne.

Parfois, un résumé IA apparaît en haut de la page, regroupant des informations pertinentes issues du web. Malgré l'avertissement selon lequel « l'IA peut commettre des erreurs », la mise en évidence de fausses informations peut facilement induire le public en erreur.

Full Fact recommande que l'outil d'aperçu de l'IA de Google Lens soit considéré comme un point de départ, et non comme un substitut à la vérification manuelle des faits, et que des sources fiables supplémentaires soient recherchées à des fins de comparaison.

Ce n'est pas la première fois que les résultats de recherche Google affichent des informations erronées. Full Fact affirme avoir reçu des financements de Google et de Google.org par le passé, tout en conservant une totale indépendance éditoriale.

Retour au sujet

ANH JEU

Source : https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm