Cuidado con la IA que crea imágenes y voces falsas para estafar dinero en línea

Nguyen Thanh Huong (nombre ficticio) trabaja como oficinista en Hanói . Durante una conversación con un amigo por Facebook Messenger, este se despidió y terminó la conversación, pero de repente volvió a escribirle, pidiéndole dinero prestado y sugiriendo transferirlo a una cuenta bancaria.

Los hackers están utilizando deepfakes para cometer fraudes en línea

Aunque el nombre de la cuenta coincidía con el de su amiga, Huong seguía sospechando, así que solicitó una videollamada para verificarlo. Su amiga accedió de inmediato, pero la llamada solo duró unos segundos debido a una "red intermitente", según su explicación. Al ver la cara de su amiga en la videollamada y escuchar la misma voz, Huong dejó de dudar y transfirió el dinero. Sin embargo, solo después de que la transferencia se realizó correctamente, Huong se dio cuenta de que había caído en la trampa del hacker.

No solo Huong, sino muchas otras víctimas, amigos y familiares de su amigo, también fueron estafadas de la misma manera. La cantidad de dinero que los estafadores estafaron desde esa cuenta de Facebook asciende a decenas de millones de dongs.

Durante la segunda mitad de 2023, la empresa de seguridad Bkav recibió continuamente denuncias y solicitudes de ayuda de víctimas sobre estafas similares. Según los expertos de Bkav, en el caso de Huong, los cibercriminales tomaron el control de la cuenta de Facebook, pero no lo hicieron por completo de inmediato, sino que la siguieron en secreto, esperando la oportunidad de hacerse pasar por la víctima y pedir dinero prestado a sus amigos y familiares. Utilizaron inteligencia artificial para crear un vídeo falso con el rostro y la voz del titular de la cuenta de Facebook (Deepfake). Cuando se les pidió que hicieran una videollamada para verificar la identidad, aceptaron la llamada, pero luego se desconectaron rápidamente para evitar ser detectados.

El Sr. Nguyen Tien Dat, Director General del Centro de Investigación Antimalware de Bkav, afirmó: «La capacidad de recopilar y analizar datos de usuarios mediante IA permite la creación de sofisticadas estrategias de fraude. Esto también implica que la complejidad de los escenarios de fraude al combinar Deepfake y GPT aumentará, lo que dificultará considerablemente su detección».

Bkav recomienda a los usuarios ser especialmente precavidos y no proporcionar información personal (DNI, cuenta bancaria, código OTP, etc.) ni transferir dinero a desconocidos por teléfono, redes sociales ni sitios web con indicios de fraude. Cuando se solicite un préstamo o una transferencia a una cuenta a través de redes sociales, se deben utilizar otros métodos de autenticación, como llamar o usar otros canales de comunicación para confirmar.

Enlace de origen: https://thanhnien.vn/canh-giac-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-tren-mang-185240202184553589.htm