Los deepfakes están descontrolados: nadie está a salvo de los trucos de suplantación de identidad de la IA.

Imitación de voz, imitación de rostros, sincronización labial... La IA ya no solo sirve para el trabajo y el entretenimiento, sino que se está convirtiendo en una peligrosa herramienta de fraude comercial. Imágenes de famosos, médicos e incluso monjes están siendo suplantadas por la IA para vender productos en todas las redes sociales. La gente real no lo sabe y los compradores pierden la confianza.

Ser "prestado" para vender bienes

“Sin importar la condición original de la rodilla, simplemente aplique nuestro método. Le garantizamos una mejora significativa en 7 días. Si no es efectivo, le ofreceré una compensación de mil millones de VND como disculpa sincera. Si realmente no nota ningún efecto, le reembolsaremos el 100% y yo mismo le ofreceré mil millones de VND. No todos se atreven a un compromiso así”, dice una famosa cantante que anuncia una crema de masaje para aliviar el dolor articular. Cabe mencionar que este anuncio fue creado íntegramente con inteligencia artificial.

El vídeo publicitario anterior fue utilizado por una cuenta de TikTok llamada LShop, que utiliza la imagen, la voz y el lenguaje corporal de la cantante de una forma realista que resulta imposible de detectar sin una observación minuciosa. Esta cuenta tiene casi 9.000 seguidores, 67.000 "me gusta" y cada vídeo cuenta con miles de visualizaciones. Tan solo el vídeo "publicitario" con la imagen de la cantante ha atraído más de 1.000 "me gusta" y casi 100 comentarios para su compra.

Con la misma crema de masaje, los canales de venta también "produjeron" otra versión deepfake, esta vez de un médico. En el clip, el personaje prometía con firmeza: "Soy el médico ortopédico más prestigioso de Hanói y garantizo que incluso la rotura de menisco más grave se puede curar por completo en tan solo 3 días. Este gel ha sido certificado por la asociación ortopédica más prestigiosa de Vietnam". Esta frase fue recreada por IA para otros "médicos", lo que facilitaba que los espectadores la confundieran con la real.

El video obtuvo casi 4000 "me gusta" y más de 120 comentarios, pero cuando enviamos un mensaje para intentar comprarlo, la cuenta no respondió ni interactuó con los espectadores en la sección de comentarios, simplemente dejando el producto en el carrito para su compra directa. Cabe destacar que el producto en venta proviene de China y la información del producto es muy vaga.

Desde cantantes y celebridades hasta médicos, todos han sido imitados por canales de ventas que crean clips de IA para vender productos relacionados con la salud.

Además de eso, el engaño de los deepfakes también se ha extendido a temas espirituales. Una cuenta de TikTok llamada Phat Phap NM no solo republica las conferencias del Maestro TPH, sino que también utiliza tecnología de IA para crear imágenes del "maestro" vendiendo productos como hojas de Bodhi y pulseras de madera de agar.

Cuando los espectadores dejaron comentarios pidiendo comprar, el canal respondió: "Si las cosas no salen como lo esperaban, vayan a la sección de exhibición en mi cuenta y elijan lo que necesiten. No sean tacaños con lo pequeño e ignoren lo grande". Inmediatamente después, este monje tuvo que hablar para aclarar que nunca había anunciado ni estado involucrado con tales productos.

La línea entre la creatividad y la infracción

El experto en ciberseguridad Ngo Minh Hieu (Hieu PC), del Centro Nacional de Monitoreo de Ciberseguridad (NCSC), afirmó que los anuncios falsos que se difunden en redes sociales se crean principalmente con software Deepfake. Este software no es infrecuente, y muchos servicios incluso ofrecen paquetes económicos y de funcionamiento muy sencillo. Si bien existen aplicaciones positivas en el ámbito de la creación de contenido digital y la producción de medios, según el Sr. Hieu, el problema radica en que algunos se han aprovechado de esta tecnología con fines negativos, como el fraude, la falsificación de identidad, la difusión de noticias falsas o la difamación mediante vídeos que parecen reales.

El Sr. Hieu también dio algunas señales para ayudar a identificar clips deepfake, como expresiones faciales en el video algo rígidas, formas de boca y movimientos que no coinciden con el diálogo... El Sr. Hieu advirtió que ha habido situaciones más graves en las que se utilizó IA para insertar los rostros de las víctimas en videos sensibles con fines de intimidación, coerción y lucro.

Según el abogado Tran Duc Phuong, del Colegio de Abogados de Ciudad Ho Chi Minh, usar IA para crear imágenes de celebridades (o personas específicas) sin su consentimiento constituye una violación de los derechos personales, en concreto del derecho a la imagen, según lo estipulado en el artículo 32 del Código Civil de 2015. La ley estipula: «Todas las personas tienen derecho a su propia imagen. El uso de la imagen de una persona debe contar con su consentimiento. El uso de una imagen con fines comerciales debe pagar una remuneración a la persona cuya imagen se utiliza, salvo acuerdo en contrario de las partes».

Por lo tanto, si el propietario de una cuenta en una red social utiliza imágenes recreadas por IA a partir de fotos reales, videos antiguos, etc., con fines publicitarios o comerciales sin permiso, ha infringido la ley. Si el uso de una imagen infringe las disposiciones de este artículo, quien la posea tiene derecho a solicitar al tribunal que dicte una orden que obligue al infractor, a las agencias, organizaciones y personas pertinentes a retirar, destruir y dar por terminado el uso de la imagen, a indemnizar por los daños y perjuicios y a aplicar otras medidas conforme a la ley.

CAM NUONG

Fuente: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html