Necesidad urgente de controlar el contenido de IA

Es necesario establecer criterios para limitar el contenido que los usuarios pueden crear con IA, forzando un etiquetado claro.

En los últimos años, la inteligencia artificial (IA) se ha desarrollado y mejorado continuamente a un ritmo vertiginoso, convirtiéndose en una herramienta fundamental en numerosos campos. Veo3, una tecnología de creación de vídeo con IA desarrollada recientemente por Google DeepMind, es capaz de crear vídeos realistas. Además de las utilidades que ofrece a los usuarios, esta herramienta también presenta el riesgo de ser utilizada por delincuentes para cometer fraudes.

Es difícil distinguir entre lo real y lo falso.

Según el mundo tecnológico, Veo3 ha causado sensación a nivel mundial gracias a su función de creación de vídeos con IA, con un nivel de realismo que supera a cualquier herramienta anterior. A diferencia de Sora de OpenAI, que solo destaca en imágenes pero tiene limitaciones en sonido, Veo3 sincroniza a la perfección imágenes, sonidos ambientales y diálogos. Desde pasos y viento hasta voces humanas y efectos ambientales, todo se combina con fluidez, alcanzando un nivel de realismo que dificulta a los usuarios distinguir entre vídeos reales y creados por IA.

En Vietnam, Veo3 causó furor en redes sociales como TikTok, Facebook y YouTube Shorts. Una serie de vídeos con la etiqueta #veo3 se compartió a un ritmo vertiginoso, atrayendo millones de visualizaciones y cientos de miles de interacciones. Muchos vídeos creados con IA sorprendieron a la comunidad online por su increíble nivel de autenticidad. Por ejemplo, un vídeo de 8 segundos con un diálogo sencillo alcanzó los 5 millones de visualizaciones y más de 308.000 «me gusta». Otro vídeo de una anciana friendo huevos, creado íntegramente con IA, también alcanzó más de 2,6 millones de visualizaciones y más de 104.000 «me gusta».

El Sr. Tran Vinh Khang, oficinista del Distrito 1 de Ciudad Ho Chi Minh, comentó que le costaba distinguir entre lo real y lo falso debido a la excesiva autenticidad. "Vi un video de un vendedor de pescado hablando con clientes en el mercado y pensé que era real porque la imagen era muy nítida. La forma en que movía la mano, levantaba las cejas, la luz del sol brillando en su rostro, todo era tan natural que era increíble que lo hubiera creado una IA", dijo el Sr. Khang.

Imágenes en el vídeo creado por Veo3, a los usuarios les resulta difícil distinguir entre lo real y lo falso

Aunque admitió estar impresionada, la Sra. Nguyen Mai Anh (residente en Ciudad Ho Chi Minh) expresó su preocupación por la seguridad de la información. "El video creado por Veo3 es tan realista que me incomoda. Si los delincuentes usan esta tecnología para crear videos con el fin de calumniar, difamar o falsificar pruebas, las consecuencias serán muy graves", expresó la Sra. Anh.

Muchos usuarios vietnamitas están particularmente interesados ​​en cómo acceder y usar Veo3. Sin embargo, Google solo ha implementado Veo3 oficialmente en el mercado estadounidense a través del paquete de suscripción Google AI Ultra, con una tarifa de 249,99 USD al mes. Ante esta limitación, la comunidad en línea vietnamita ha encontrado la manera de superar la barrera y probarlo. Muchas personas comparten consejos sobre cómo usar una VPN para cambiar la IP a EE. UU., registrando así una cuenta de Google en una región compatible para activar y usar Veo3 como usuario local. Según expertos en seguridad, esta es una vulnerabilidad que los cibercriminales pueden aprovechar para cometer actos turbios.

Se necesita un marco legal para la IA

El Sr. Le Hong Duc, fundador de OneAds Digital Company Limited, afirmó que los productos generados por IA, como vídeos, imágenes o voces, están alcanzando un nivel de realismo asombroso, e incluso pueden introducirse directamente en la producción y comercialización. Este auge ofrece claras ventajas en términos de coste y tiempo, pero puede aprovecharse para difundir información falsa o generar confusión pública. En el contexto de modelos de IA cada vez más complejos, el control del contenido se vuelve urgente, especialmente cuando la tecnología ha superado con creces la velocidad de actualización de las leyes vigentes.

Por lo tanto, el Sr. Duc propuso la urgencia de desarrollar una ley especializada para la IA que defina claramente las responsabilidades de quienes crean y comparten contenido de IA. La difusión de contenido falso y dañino debe sancionarse y controlarse estrictamente. Al mismo tiempo, las autoridades deben establecer criterios para limitar el contenido que los usuarios pueden crear con IA y exigir etiquetas claras. De no implementarse correctamente, los usuarios deben asumir la responsabilidad legal y compensar por cualquier daño causado. "Es urgente crear un marco legal específico para la IA para controlar esta tecnología en rápido desarrollo, contribuir a mantener un entorno digital saludable y prevenir consecuencias como fraude, violaciones éticas o insultos", enfatizó el Sr. Duc.

Además de las preocupaciones legales, un experto en seguridad informática comentó que el destacado desarrollo de Veo3 también genera inquietud entre los creadores de contenido, especialmente en campos como el cine, la televisión y la animación, que corren el riesgo de ser reemplazados gradualmente por la tecnología de IA, lo que supone un gran desafío para la protección de las carreras profesionales y los derechos de autor en la industria creativa. "Es necesario complementar pronto la normativa sobre derechos de propiedad intelectual para el contenido generado por IA, ya que esta ahora puede producir productos de gran realismo. De lo contrario, los creadores se enfrentarán al riesgo de perder sus empleos debido a la oleada de obras virtuales que inunda el mercado", declaró el experto.

Cuidado con los servicios falsos

Desde el auge de Veo3, en redes sociales, muchas cuentas que se autoproclaman "expertos en IA" han empezado a compartir vídeos de demostración, instrucciones para acceder a Veo3 o a vender cuentas y servicios de soporte por precios que oscilan entre 200.000 y 300.000 VND. Algunos usuarios afirmaron haber accedido y probado la aplicación con éxito, pero no todos pudieron experimentarla. El Sr. Le Hong Duc advirtió a los usuarios que tengan cuidado con los servicios falsos o no oficiales, y recomendó esperar a que Google implemente oficialmente Veo3 en el mercado vietnamita para evitar fraudes financieros, robo de datos o el control de cuentas de Google.

Fuente: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm