Utiliser des outils d'IA pour corriger les défauts des produits bases sur l'IA

Les fausses nouvelles deviennent de plus en plus sophistiquées grâce à la manipulation de l'IA

Récemment, lors de la réunion entre l'Association des journalistes du Vietnam et l'Association des journalistes thaïlandais qui s'est tenue à Hanoi, les dirigeants des deux associations ont passé la majeure partie de leur temps à évoquer le problème des « fake news » et ont déclaré qu'il ne s'agissait plus d'un problème national mais d'un problème majeur, provoquant des impacts imprévisibles sur la région et le monde.

Selon une étude de Google DeepMind, la création d'images, de vidéos et d'audios imitant des humains est presque deux fois plus courante que la création de désinformation à l'aide d'outils tels que les chatbots IA.

Des deepfakes du Premier ministre britannique Rishi Sunak et d'autres dirigeants mondiaux sont apparus sur TikTok, la diffusion pourrait influencer les électeurs.

De fausses œuvres d'art du Premier ministre britannique Rishi Sunak sont apparues sur TikTok et Instagram à l'approche des élections générales. (Photo : AFP)

Évaluant l'impact des fausses nouvelles à l'ère des technologies, Luong Dong Son, maître de conférences à l'Institut de journalisme et de communication de l'Académie de journalisme et de propagande, a déclaré que le produit de la combinaison de l'IA et de la désinformation, également connu sous le nom de fausses nouvelles surréalistes, peut fausser la perception publique des événements et des problèmes sociaux, affectant ainsi la façon dont le public évalue la situation et prend des décisions. Cela peut avoir de graves conséquences, allant de petites décisions personnelles à des décisions importantes affectant la communauté et le pays.

Les fausses nouvelles peuvent servir à manipuler l'opinion publique, inciter à la violence, semer la division et nuire à la stabilité sociale. Sur la scène politique, elles peuvent saper la confiance dans les institutions démocratiques, influencer les résultats des élections et mien inciter au conflit.

Concernant les défis auxquels sont confrontés les journalistes et les organes de presse, le MSc Luong Dong Son a déclaré que la sophistication des fausses nouvelles surréalistes, en particulier les deepfakes, rend de plus en plus difficile la distinction entre le vrai et le faux, mien pour les journalistes expérimentés.

« À l'ère de l'explosion de l'information, le public exige de plus en plus des journalistes et des organes de presse qu'ils fournissent des informations rapides et précises. Cependant, cette pression peut conduire les journalistes à publier des informations à la hâte sans les vérifier soigneusement, créant ainsi des opportunités de propagation de fausses informations surréalistes. De plus, les journalistes et les organes de presse s'exposent à des risques juridiques et éthiques s'ils ne vérifient pas et ne publient pas les informations avec soin », a déclaré M. Son.

Demander à l'IA de Vérifier les informations

Selon le MSc Luong Dong Son, pour faire face à ce type de fausses nouvelles, l'application de solutions technologiques modernes est extrêmement nécessaire.

« Ces solutions visent non seulement à détecter et à éliminer les fausses nouvelles, mais aussi à les prévenir les premières étapes de leur production », a déclaré Dong Son, MSc.

Tout d'abord, selon M. Son, l'une des technologies les plus importantes aujourd'hui est l'utilisation de systèmes d'intelligence artificielle pour détecter les fausses nouvelles. Les systèmes d'IA modernes sont capables d'analyser le contexte, de comparer des informations provenant de sources multiples et de détecter des anomalies dans le contenu de l'information. Un exemple typique est l'utilisation de l'IA pour analyse des vidéos et des images afin de détecter des signes de montage ou de production utilisant la technologie deepfake.

Par ailleurs, les plateformes de médias sociaux et les moteurs de recherche déploient activement des algorithmes d'apprentissage automatique pour classer et filtrer automatiquement les fausses informations avant qu'elles ne deviennent virales. Ces algorithmes sont conçus pour détecter les anomalies dans les schémas de partage, la vitesse de diffusion, voire le ton des publications, évaluant ainsi la probabilité que l'information soit fausse.

Par ailleurs, l'utilisation de la technologie blockchain pour gérer l'origine des informations constitue également une solution potentielle. La blockchain permet de créer un système d'authentification transparent et immuable, permettant ainsi de retracer l'origine et l'historique de toutes les informations, garantissant ainsi leur exactitude et leur fiabilité.

L'IA peut créer de faux contenus ou des informations et images trompeuses difficiles à distinguer, causant de graves dommages à la réputation des individus et des organisations, et portant thames atteinte aux intérêts nationaux et ethniques.

Partager le mien avis que le MSc. Luong Dong Son, M. Phan Van Tu - Chef du Département de journalisme - Faculté de journalisme et de communication, Université des sciences sociales et humaines, Ho Chi Minh-Ville a souligné qu'en plus de fournir des compétences pour exploiter les atouts de l'IA pour le journalisme, nous devons également utiliser des outils d'IA pour vérifier les informations.

La vérification de la source, qui consiste essentiellement à évaluer la fiabilité d'une source, est une compétence importante qui implique de vérifier la source de l'information, de la comparer avec d'autres sources et d'utiliser des outils de vérification des faits pour vérifier la fiabilité.

Il est intéressant de noter qu'il existe désormais de nombreux outils intégrés à l'IA qui fournissent aux journalistes dans le processus de vérification, en plus des outils traditionnels qui prennent en charge les vérificateurs de faits tels que Google Image, la recherche d'images inversées Tineye, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...

M. Phan Van Tu a déclaré que la formation professionnelle des journalistes dans la période actuelle nécessite de se concentrer sur la fourniture de capacités d'évaluation de l'information pour lutter contre les fausses nouvelles manipulées par l'IA. « L'utilisation d'outils d'IA pour gérer les erreurs liées à l'IA est le moyen le plus rapide d'aider les journalistes et les agences de presse non seulement à bien remplir leur rôle, mais aussi à améliorer la qualité de l'information et à protéger le public contre les fausses informations et les impacts Égatifs des médias », a déclaré M. Tu.

Cependant, M. Tu a également souligné que la capacité des journalistes à évaluer l'information ne peut pas reposer uniquement sur des outils. Il faut dire d'emblée que l'IA peut faciliter l'analyse du contenu des actualités, mais ne peut détecter tous les types de fausses nouvelles et d'informations manipulées. Les logiciels d'IA peuvent néanmoins être trompés par les techniques mêmes qu'ils utilisent pour les détecter.

« Aucun outil n'est une baguette magique, mais les outils d'IA qui détectent les fausses photos/vidéos restent une ressource précieuse dans le cadre d'un processus de vérification ou d'une mètre de diligence raisonnable », a déclaré Phan Van Tu.

Hoa Giang

Source : https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html