La lutte légendaire contre la désinformation, les deepfakes et les escroqueries

(NB&CL) Outre la guerre, la violence armée et les profondes divisions géopolitiques mondiales, le monde de 2024 continue de faire face à une autre bataille majeure contre la désinformation, les fausses nouvelles et la fraude. Ce problème deviendra légendaire, difficile à résoudre et devrait s'aggraver si le monde ne s'unit pas pour prendre des mesures drastiques.

Le chaos de l'information : un danger croissant

La perturbation de l'information, en particulier la désinformation et la cyberfraude, est considérée comme une « pandémie mondiale », une bataille mondiale commune dans laquelle les médias traditionnels, avec leur mission de protéger la vérité, doivent jouer un rôle de premier plan. Cependant, cette lutte ne peut être victorieuse que si des mesures drastiques et fondamentales sont mises en œuvre dans chaque pays et dans les organisations internationales.

Les fausses nouvelles, la désinformation et, surtout, les activités frauduleuses sont désormais devenues les conséquences inévitables et les aspects négatifs de l'entrée du monde dans une nouvelle ère médiatique. L'espace médiatique n'est plus réservé aux agences de presse et aux journaux censurés. L'essor d'Internet, des technologies de pointe et, surtout, des réseaux sociaux a permis à chacun de devenir journaliste, reporter ou même porte-parole, suivi par des millions de personnes.

Les réseaux sociaux, un monde sans règles

Tout a son revers. L'essor des réseaux sociaux a apporté de nombreux avantages, notamment la diffusion rapide et massive de l'information et des connaissances. Aujourd'hui, l'information sur un accident atteint tout le monde en quelques minutes, même à l'autre bout du monde. De même, les informations sur les catastrophes naturelles telles que les inondations, les tempêtes, les incendies de forêt… sont rapidement mises à jour ou partagées par tous via les réseaux sociaux, contribuant ainsi à une diffusion efficace de l'information ou à une alerte efficace.

Cependant, malgré leurs aspects positifs, les réseaux sociaux et les plateformes de partage communautaire ont des conséquences inquiétantes. Plus inquiétant encore, à l'heure actuelle, non seulement les humains, mais aussi les machines, et notamment la pénétration fulgurante de l'intelligence artificielle (IA), font d'Internet en général, et des plateformes technologiques en particulier, un espace à risques excessifs.

« Pandémie d’information » sur les réseaux sociaux

Selon les statistiques publiées par Redline fin juin 2024, on compte 4,9 milliards d'utilisateurs de réseaux sociaux dans le monde. D'après cette enquête menée auprès d'Américains, la plupart des utilisateurs doutent de l'exactitude des informations diffusées sur ces plateformes, de Facebook à TikTok en passant par YouTube. C'est pourquoi cette organisation a utilisé le terme « infodémie » pour décrire l'état actuel de la désinformation sur les réseaux sociaux.

Le monde des réseaux sociaux est comparable à une forêt vierge, quasiment sans règles. On y jouit de fertilité, de liberté et de ressourcement, mais tout cela est entaché de pièges mortels. À ce jour, presque tous les pays peinent encore à gérer et à organiser cette « forêt vierge », prenant même les premières mesures pour lutter contre les violations, alors que ce « monde » englobe l'humanité entière.

Fin novembre de cette année, l'Australie est devenue le premier pays au monde à adopter officiellement une loi interdisant aux enfants d'accéder au monde « primitif », fascinant, mais dangereux et presque sans loi. Plus précisément, l'Australie a interdit aux enfants de moins de 16 ans d'utiliser les réseaux sociaux et imposera de lourdes amendes pouvant atteindre 32 millions de dollars en cas de violation de la loi par les réseaux sociaux.

Dans ce contexte, l'explosion des fausses nouvelles, de la désinformation et surtout de la fraude sur les réseaux sociaux (ainsi que par le biais d'autres technologies de pointe telles que les applications logicielles, les sites web frauduleux, etc.) continue de devenir un problème mondial. Au Vietnam, nous entendons chaque jour des histoires déchirantes de victimes victimes de toutes sortes de fraudes sur Internet. Partout dans le monde, ce problème touche également tous les pays.

En mars, Interpol a signalé que la cyberfraude en Asie du Sud-Est s'était développée à l'échelle mondiale, rapportant 3 000 milliards de dollars par an (soit l'équivalent du PIB de la France). Un géant britannique de la technologie a même perdu 25 millions de dollars après que des fraudeurs ont utilisé des deepfakes pour se faire passer pour un cadre supérieur et ordonner des virements d'argent. Ce ne sont là, bien sûr, que quelques exemples parmi des millions d'autres cyberarnaques.

Faire face à la diffusion de fausses informations sur les réseaux sociaux, mission impossible ?

Bien que les pays et les organisations mondiales déploient des efforts constants pour prévenir ou punir les activités illégales dans le cyberespace, en particulier sur les grandes plateformes sociales telles que TikTok, Facebook ou X, le nombre de cas traités reste encore très faible.

Ce qui est plus remarquable, c'est que jusqu'à présent, quasiment aucun pays ni aucune organisation n'a tenu les réseaux sociaux responsables d'actes répréhensibles, tels que la diffusion de fausses informations, voire la violation de la loi. En mai dernier, Meta a elle-même admis avoir découvert du contenu « probablement généré par l'IA » utilisé à des fins de distorsion ou de tromperie sur ses plateformes Facebook et Instagram. Cette déclaration montre que les réseaux sociaux eux-mêmes se croient « innocents » lorsqu'ils diffusent des informations préjudiciables ; autrement, ils n'auraient pas avoué leurs actes de cette manière.

En fait, les grandes entreprises technologiques, telles que Meta, TikTok, Google, Microsoft ou X, ont dû payer des milliards de dollars d'amendes dans le monde entier pour leurs violations, mais elles ne sont liées qu'à des violations des réglementations sur la confidentialité des utilisateurs ou des lois antitrust, et il n'y a eu presque aucune sanction contre elles pour avoir permis que des violations se produisent dans leur « maison ».

L'affaire la plus marquante dans ce domaine a été l'arrestation en France de Pavel Dourov, PDG de Telegram, accusé d'avoir facilité des activités criminelles sur la plateforme. Cependant, cette arrestation, présentée comme politiquement chargée, a été menée en secret. Il ne s'agissait pas d'une procédure judiciaire publique contre un réseau social ou une entreprise classique. De fait, Telegram n'a jamais été sanctionné pour des activités criminelles sur la plateforme, malgré un rapport des Nations Unies publié en octobre 2024 indiquant que la plateforme était utilisée par des organisations criminelles pour des transactions illégales.

Le monde peine encore à gérer le problème des fausses nouvelles, de la désinformation et de la fraude sur les réseaux sociaux. Illustration : IJNET

Ainsi, même avec des activités illégales aussi évidentes, il est impossible de gérer les plateformes de médias sociaux ou le partage communautaire, il est clair que le contrôle du contenu toxique, des fausses nouvelles et de la désinformation est extrêmement lointain.

Ainsi, non seulement les plateformes n'ont pas peur, mais elles montrent de plus en plus de signes d'« agir selon leurs propres conditions », encourageant la diffusion d'informations controversées, sensationnelles, absurdes ou toxiques pour attirer les téléspectateurs, grâce à des algorithmes de plus en plus sophistiqués. Il convient de noter que les géants de la technologie sont également prêts à faire pression ou à contester toute mesure visant à les sanctionner sur ce sujet. Le milliardaire Elon Musk, propriétaire du réseau social X, a exprimé en septembre 2024 son opposition à un nouveau projet de loi australien prévoyant d'infliger des amendes aux entreprises de réseaux sociaux qui ne parviennent pas à prévenir la désinformation en ligne.

En vertu de ce projet de loi, toujours australien, les plateformes internet pourraient se voir infliger une amende pouvant atteindre 5 % de leur chiffre d'affaires mondial pour diffusion de fausses informations. D'autres grandes plateformes technologiques, comme Google et Meta, ont également exprimé leurs inquiétudes et contesté le nouveau projet de loi australien. Il est à noter qu'il s'agit d'un projet de loi rare au monde mentionnant la pénalisation des réseaux sociaux pour diffusion de fausses informations, de fausses nouvelles et d'activités frauduleuses.

Si l'on considère le monde des médias traditionnels et du journalisme, ce paradoxe est difficile à accepter. Chacun sait que si un journal ou une chaîne de télévision commet la moindre erreur professionnelle, sans parler de la diffusion d'informations fausses ou illégales, l'agence entière peut être sévèrement sanctionnée et, à tout le moins, les lecteurs lui tourneront le dos, et pas seulement le journaliste ou le rédacteur en chef qui a fourni l'information.

La « pandémie mondiale » devient incontrôlable

On peut affirmer que le problème de la désinformation, des fausses nouvelles, des informations toxiques et de la fraude est plus grave que n'importe quelle guerre ou pandémie, car il peut toucher une génération entière à l'échelle mondiale, en particulier les jeunes. De nombreuses études ont démontré que les réseaux sociaux, et notamment les vidéos courtes et addictives de Facebook, TikTok ou Google, nuisent à la santé physique et mentale des enfants.

Dans une étude récente, l'UNICEF a constaté que les réseaux sociaux sont conçus pour capter l'attention des utilisateurs le plus longtemps possible, en exploitant nos préjugés et nos vulnérabilités psychologiques, comme le désir d'approbation ou la peur du rejet. Une utilisation excessive des réseaux sociaux a été associée à des sentiments d'envie, d'infériorité et à une faible satisfaction de vivre. Des études ont même suggéré que cette habitude pouvait entraîner des symptômes de dépression, d'anxiété et de manque de sommeil, dont le plus courant est la maladie mentale.

La chanteuse Taylor Swift fait partie des célébrités victimes d'un deepfake par IA. Photo : Herbert Wang

La réglementation vietnamienne obligeant les réseaux sociaux à authentifier les utilisateurs entrera en vigueur

Le décret 147/2024/ND-CP relatif à la gestion, à la fourniture et à l'utilisation des services Internet et des informations en ligne, récemment publié par le gouvernement vietnamien, entrera en vigueur le 25 décembre 2024. Ce décret impose aux réseaux sociaux d'authentifier leurs utilisateurs par numéro de téléphone ou par numéro d'identification personnel, et seuls les comptes authentifiés sont autorisés à fournir des informations (rédaction d'articles, commentaires, diffusions en direct) et à les partager sur les réseaux sociaux. Ce décret devrait limiter considérablement la diffusion d'informations fausses et trompeuses, et notamment les activités frauduleuses, sur les réseaux sociaux.

Il existe de nombreux exemples de l'impact considérable que la désinformation, les fake news et les deepfakes peuvent avoir sur la vie réelle et devenir une menace mondiale. En août dernier, des émeutes ont éclaté suite à une fausse affirmation sur les réseaux sociaux selon laquelle le suspect du meurtre au couteau d'une jeune fille au Royaume-Uni était un immigré musulman radical (en réalité britannique). Ces émeutes ont conduit à des milliers d'arrestations par la police.

Lors de la tentative d'assassinat de Donald Trump en juillet 2024, les réseaux sociaux ont également été inondés de fausses nouvelles et de théories du complot, comme celle d'un journaliste italien suspecté (en réalité, un Américain de 20 ans). De plus, des rumeurs ont circulé sur les réseaux sociaux, affirmant que le suspect était chinois ou que l'incident était une mise en scène. La diffusion de fausses informations attise également la haine envers tous les conflits et points chauds du monde, comme la guerre russo-ukrainienne, le conflit israélo-palestinien ou le problème de l'islamophobie, ainsi que l'antisémitisme.

Et pourtant, avec l'explosion de l'IA, la lutte contre la désinformation devient incontrôlable. Outils de deepfake et modèles d'IA bon marché prolifèrent sans aucun contrôle significatif.

Selon les statistiques de DeepMedia, le nombre de vidéos et de voix deepfakes a explosé chaque année. En 2023, le nombre de vidéos deepfakes a triplé et celui des voix deepfakes a été multiplié par huit par rapport à 2022. On estime qu'environ 500 000 vidéos et voix deepfakes seront partagées sur les réseaux sociaux dans le monde en 2024.

Début 2024, une série d'images pornographiques de la chanteuse Taylor Swift, générées par l'IA, est devenue virale sur les réseaux sociaux, provoquant un tollé mondial. De plus, plusieurs personnalités politiques du monde entier, dont le président américain Joe Biden et des dirigeants du Royaume-Uni, de l'Inde, du Nigéria, du Soudan, de l'Éthiopie et de la Slovaquie, ont également été victimes du phénomène des deepfakes.

Ainsi, le problème des fausses nouvelles, de la désinformation et, surtout, des activités frauduleuses dans le cyberespace devient de plus en plus grave. À l'ère de l'IA, cette « pandémie mondiale » pourrait devenir incontrôlable sans les efforts conjoints du monde entier, et notamment des décideurs politiques de chaque pays, pour l'empêcher.

Hoang Hai

Source : https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html