Méfiez-vous des IA qui créent de fausses images et voix pour escroquer de l'argent en ligne

Nguyen Thanh Huong (le nom du personnage a été modifié) est un employé de bureau à Hanoï . Lors d'une conversation avec un ami via Facebook Messenger, celui-ci lui a dit au revoir et a mis fin à la conversation, mais a soudainement repris son message, lui demandant d'emprunter de l'argent et lui suggérant de le virer sur un compte bancaire.

Les deepfakes sont utilisés par les pirates informatiques pour commettre des fraudes en ligne

Bien que le nom du compte corresponde à celui de son amie, Huong était encore un peu méfiante et a demandé un appel vidéo pour vérifier. Son amie a immédiatement accepté, mais l'appel n'a duré que quelques secondes en raison d'un « décalage Internet », selon son amie. En voyant le visage de son amie lors de l'appel vidéo et en entendant sa voix, Huong a levé le doute et a transféré l'argent. Cependant, ce n'est qu'une fois le transfert réussi qu'elle a compris qu'elle était tombée dans le piège du pirate.

Outre Huong, de nombreuses autres victimes, proches ou amis de son ami, ont également été victimes d'une arnaque similaire. Les malfaiteurs ont détourné des sommes d'argent sur son compte Facebook, atteignant des dizaines de millions de dongs.

Au second semestre 2023, l'entreprise de sécurité Bkav a reçu de nombreux signalements et demandes d'aide de victimes concernant des escroqueries similaires. Selon les experts de Bkav, dans le cas de Huong, les malfaiteurs ont pris le contrôle du compte Facebook, sans toutefois le prendre immédiatement en charge complètement. Ils ont plutôt suivi secrètement le compte, guettant l'occasion de se faire passer pour la victime afin de demander de l'argent à ses proches. Ils ont utilisé l'IA pour créer une fausse vidéo du visage et de la voix du propriétaire du compte Facebook (Deepfake). Lorsqu'on leur a demandé de passer un appel vidéo pour vérification, ils ont accepté, mais ont rapidement déconnecté pour éviter d'être détectés.

M. Nguyen Tien Dat, directeur général du centre de recherche antimalware de Bkav, a déclaré : « La capacité de collecter et d'analyser les données des utilisateurs grâce à l'IA permet de créer des stratégies de fraude sophistiquées. Cela signifie également que la complexité des scénarios de fraude combinés à Deepfake et GPT augmentera, rendant la détection des fraudes beaucoup plus difficile. »

Bkav recommande aux utilisateurs d'être particulièrement vigilants : ne pas communiquer d'informations personnelles (carte d'identité, compte bancaire, code OTP…) et ne pas transférer d'argent à des inconnus par téléphone, sur les réseaux sociaux ou sur des sites web présentant des signes de fraude. En cas de demande d'emprunt/transfert d'argent sur un compte via les réseaux sociaux, il est conseillé d'utiliser d'autres méthodes d'authentification, comme un appel ou d'autres moyens de communication, pour confirmer l'opération.

Lien source: https://thanhnien.vn/canh-giac-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-tren-mang-185240202184553589.htm