Des photos et des vidéos IA inondent Facebook : apparemment inoffensives mais extrêmement dangereuses

En parcourant la photo d'un couple de soldats tenant des quadruplés dans leurs bras sur Facebook, Mme Linh, 42 ans, a commenté par habitude : « Félicitations à vous deux ». Cependant, elle a immédiatement retiré son commentaire, sentant que « quelque chose clochait ».

En y regardant de plus près, elle réalisa qu'il s'agissait simplement d'une photo prise par une IA, utilisée par une page Facebook pour illustrer une publication sentimentale. Fait notable, c'était la deuxième fois qu'elle se laissait « presque » tromper par l'IA. Auparavant, elle avait déjà pris la vidéo « des retraités rencontrant des « vacanciers » » pour de vraies personnes et de vrais événements.

Travaillant dans l’industrie des médias et régulièrement exposée au contenu de l’IA, Mme Linh doit admettre que cette technologie s’est développée si rapidement et de manière si sophistiquée qu’il est difficile de faire la distinction entre le vrai et le faux.

La photo virale sur Facebook a été créée par l'IA. Capture d'écran.

Les experts partagent ce point de vue. Des outils comme Google Veo 3, Kling AI, DALL·E 3, Midjourney… ont permis de créer des images et des vidéos incroyablement réalistes.

M. Do Nhu Lam, directeur de la formation à l'Institut de technologie Blockchain et d'intelligence artificielle ABAII, a souligné que grâce à la technologie multimodale et aux modèles de langage avancés, ces outils peuvent synchroniser les images, les sons, les expressions faciales et les mouvements naturels, créant ainsi des produits très convaincants.

M. Do Nhu Lam, directeur de la formation à l'Institut de technologie blockchain et d'intelligence artificielle ABAII, a déclaré que l'IA avancée permet d'obtenir des produits très convaincants. Photo : NVCC

M. Lam a déclaré que les progrès de l'IA ouvrent un potentiel considérable dans des domaines tels que la création de contenu, la publicité, le divertissement et l'éducation . Cependant, cette capacité à recréer « authentiquement » pose également de nombreux défis en matière d'éthique, de contrôle et de sécurité de l'information, la frontière entre réalité et virtualité étant de plus en plus floue.

La publication Facebook vue par Mme Linh a suscité près de 300 000 interactions et plus de 16 000 commentaires. De nombreux utilisateurs se sont empressés de féliciter ou d'exprimer leurs sentiments, sans savoir qu'il s'agissait simplement d'une illustration de l'IA. Certains, plus « sérieux », ont critiqué la naïveté des internautes qui se sont laissés berner par l'IA.

Sur les groupes et forums Facebook, il est facile de voir des vidéos créées et partagées par les utilisateurs grâce à l'IA. L'arrivée de Google Veo 3 a notamment considérablement amélioré la qualité des vidéos, notamment la voix qui s'adapte à la forme de la bouche du personnage. Si vous n'y prêtez pas attention, les spectateurs peuvent facilement être déconcertés.

Rester éveillé à l'ère de l'IA

Les photos et vidéos créées par l'IA sont difficiles à distinguer, ce qui représente un risque important pour les utilisateurs, en particulier les groupes vulnérables peu familiarisés avec les technologies. Selon M. Vu Thanh Thang, directeur de l'intelligence artificielle (CAIO) de SCS Cyber ​​Security Joint Stock Company, l'IA est utilisée par les cybercriminels pour commettre des fraudes (contournement des systèmes biométriques, eKYC…), se faisant passer pour des célébrités afin de diffuser de fausses informations et de semer la confusion chez le public. De nombreux cas de criminels high-tech exploitent l'IA pour créer des photos truquées, se faisant passer pour des proches afin de passer des appels vidéo et d'escroquer de l'argent.

M. Vu Thanh Thang, directeur de l'intelligence artificielle (CAIO) de la société par actions SCS Cyber ​​Security, a déclaré que nous sommes entrés dans une ère où tout peut être falsifié. Photo : NVCC

Selon M. Thang, les entreprises sont également des cibles potentielles pour les criminels utilisant l'IA. Ils peuvent utiliser l'IA Deepfake pour usurper l'identité d'employés, contourner les systèmes de sécurité pour déverrouiller les présences et se faire passer pour des dirigeants d'entreprise afin de diffamer et de détruire leur réputation.

Partageant le même avis, M. Do Nhu Lam de l'ABAII a souligné trois conséquences de l'IA pour les utilisateurs individuels : fraude financière, atteinte à la réputation et exploitation des informations privées. Pour les entreprises, la société Arup a perdu 25 millions de dollars après que des employés de sa filiale de Hong Kong ont été piégés en participant à une réunion vidéo truquée et en transférant de l'argent comme demandé.

Tout ce que vous devez savoir sur Veo 3, l'outil d'IA de génération de vidéos virales actuel Le dernier modèle d'IA de génération de vidéos de Google – Veo 3 – impressionne par sa capacité à créer un son réaliste qui se synchronise avec les images.

Un autre risque tout aussi grave est que, lorsque les gens ne peuvent plus faire la distinction entre le vrai et le faux, la confiance du public dans les médias et les sources d’information officielles s’érode.

M. Lam a cité un rapport 2024 de l'Institut Reuters montrant que le pourcentage d'utilisateurs mondiaux qui font confiance aux informations sur les plateformes médiatiques est tombé à son plus bas niveau depuis une décennie, en grande partie en raison de l'émergence de contenus deepfake.

Selon l'expert Vu Thanh Thang, « nous vivons à une époque où toute information peut être falsifiée et ne constitue plus un « risque ». Il est donc nécessaire de sensibiliser et d'appliquer des mesures de protection personnelle, et d'en apprendre davantage sur l'IA pour vivre en paix .

Les deux experts recommandent aux utilisateurs de toujours vérifier et authentifier les informations avant de prendre des décisions ; de se doter des connaissances nécessaires pour identifier les faux contenus ; de limiter le partage d'informations personnelles en ligne ; et de signaler les actes de diffusion de faux contenus. « Ce n'est qu'en étant proactifs et informés que les utilisateurs pourront véritablement se protéger et contribuer à la construction d'un cyberespace plus sûr à l'ère numérique », a déclaré M. Lam.

Inquiet de l'extinction de l'humanité à cause de l'IA, le « parrain » Yoshua Bengio vient de faire quelque chose Le « parrain » de l'IA Yoshua Bengio vient de fonder une organisation à but non lucratif dans le but de créer des systèmes d'intelligence artificielle sûrs, au lieu de montrer des personnalités dangereuses aux humains.

Source : https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html