Cada vez que navego en Internet veo vídeos divertidos y estúpidos creados por IA.

(Dan Tri) - Los vídeos con contenido "desviado" creados por Veo 3 aparecen con frecuencia en los sitios de redes sociales.

Dondequiera que navego, veo humor sin sentido de Veo 3

Recientemente, los usuarios de redes sociales, especialmente TikTok, se han encontrado constantemente con videos de comedia creados con Veo 3. Si bien la mayoría son entretenidos, muchos de estos contenidos han comenzado a salirse de la norma y generar controversia.

“Cada vez que abro TikTok, veo videos divertidos con motivos familiares, como una anciana que lleva un cerdo para vender porque come mucho y duerme mucho”, compartió Huyen Mai (20 años).

Huyen Mai dijo que su TikTok está lleno de videos de "comedia" creados por Veo 3 (Foto: Captura de pantalla).

Mai compartió que aparecían cada vez más videos similares, lo que la hizo comenzar a sentirse incómoda y a pensar que estos videos eran solo para "cebo de visualización" y que no aportaban ningún valor a los espectadores.

Mai dijo que muchas veces se ha encontrado con videos negativos u ofensivos en su muro de noticias: "Muchos canales de TikTok crean videos sobre situaciones ficticias e historias de la vida real que incorporan elementos obscenos, ofensivos e información falsa solo para atraer visitas".

Una serie de contenidos ofensivos e impactantes fue creada con el propósito de “atraer vistas” (Foto: Captura de pantalla).

Similar a la historia de Huyen Mai, Hoang Anh (20 años) también expresó sus frustraciones recientemente. Comentó que Veo 3 ofrece imágenes y contenido muy realistas, y que muchos videos son interesantes y entretenidos.

Pero después de un tiempo, gradualmente notó que los videos con tendencia a ser "negativos" e "impactantes para atraer vistas" aparecían con mayor frecuencia, en lugar de centrarse en valores positivos.

"Un estudiante se levantó y maldijo. Ese fue uno de los videos creados por Veo 3 que vi recientemente. Me pregunté por qué las redes sociales tienen contenido tan ofensivo, especialmente en época de exámenes tan importantes", confesó Hoang Anh.

Con frecuencia aparecen en las redes sociales muchos vídeos generados por IA con lenguaje y contenido inapropiados (Foto: Captura de pantalla).

Lo que es más preocupante es que algunos vídeos utilizan imágenes de personajes y voces de niños para decir frases delicadas y poco éticas, pero aún así atraen miles de interacciones de la comunidad online.

Además, muchos usuarios de Veo 3 también crean situaciones para promover comportamientos desviados bajo la apariencia de contenido puramente entretenido.

Normalmente, algunas aplicaciones y sitios web, como los de juegos de azar y apuestas, crean descaradamente vídeos promocionales para los espectadores y los difunden de forma abierta y secreta bajo la apariencia de "vídeos de entretenimiento".

La puerta a muchas consecuencias

Es innegable que el desarrollo de herramientas de generación de vídeo con IA como Veo 3, si bien aporta un gran potencial al sector de producción de contenidos en muchas tiendas y negocios, también abre una "puerta" que conduce a consecuencias virtuales en la vida real.

Esto plantea preguntas como "¿Pueden los adultos o los niños distinguir entre los vídeos creados por IA?" y "¿Cómo afectarán estos vídeos ofensivos la percepción de los niños?".

El logotipo de Vietnam Television insertado en contenido generado por IA (Foto: captura de pantalla).

Muchos expertos han advertido sobre los riesgos potenciales del contenido "pervertido" creado por IA, no solo con fines de entretenimiento. Estos productos, al difundirse vertiginosamente en redes sociales, pueden hacer que personas mayores o niños los reciban pasivamente y se vean fácilmente afectados negativamente.

Las plataformas de redes sociales se enfrentan actualmente a un gran desafío en la censura de contenidos, pues con tan solo unos sencillos pasos, cualquiera puede crear una serie de vídeos con contenido desviado, promoviendo incluso comportamientos ofensivos, depravados o ilegales.

No solo presenta riesgos potenciales en cuanto al contenido, sino que acceder y usar Veo 3 en Vietnam también está causando numerosas consecuencias. Debido a que Google no ha dado soporte oficial a esta herramienta en el mercado nacional, sumado a las elevadas tarifas (20 $ al mes para una cuenta Pro, 250 $ al mes para una cuenta Ultra), muchos entusiastas de la tecnología han encontrado maneras de sortear la barrera mediante el uso de VPN, la compra de cuentas flotantes o la divulgación de información falsa.

Muchos de ellos se han convertido en víctimas de trucos para "arreglar gallinas", como la publicidad de cuentas baratas de Veo 3, que permiten utilizarlas libremente, con funciones ilimitadas.

Las publicaciones que invitan a comprar cuentas baratas de Veo 3 están inundando las redes sociales vietnamitas (captura de pantalla).

Muchos delincuentes han aprovechado la necesidad de acceder a Veo 3 para estafar, pidiendo a los compradores que primero transfieran dinero y luego "desaparecen" rápidamente sin dejar rastro.

Cabe destacar que algunas personas incluso aceptan registrar cuentas de Veo 3 con la dirección de Gmail del cliente a un precio muy preferencial. Sin embargo, esto en realidad supone explotar una laguna en la política de Google, con el riesgo de que la cuenta quede bloqueada permanentemente y, por lo tanto, se pierda el acceso a correos electrónicos, documentos y todos los datos personales relacionados.

La tecnología no tiene defectos

De hecho, ninguna plataforma de IA está diseñada para generar contenido negativo ni promover comportamientos abusivos. Las consecuencias dependen del uso que las personas hagan de la herramienta, lo que significa que la concienciación y la responsabilidad del usuario son factores decisivos.

El Dr. Nguyen Van Son, profesor de la Facultad de Tecnología de la Información de la Universidad Tecnológica (Universidad Nacional de Vietnam, Hanói ), comentó: «Aprecio enormemente los valores positivos que aporta la inteligencia artificial. Si se utiliza correctamente, la IA puede realizar numerosas contribuciones prácticas a la sociedad y la comunidad».

Sin embargo, según él, surgen problemas cuando la tecnología cae en manos de personas con motivaciones malsanas. «En ese momento, la IA se convierte en una herramienta eficaz para fomentar comportamientos negativos, incluso amplificando los impactos negativos en la sociedad», advirtió el Dr. Son.

Desde allí, hizo un llamamiento a los usuarios, especialmente a los jóvenes, a aumentar de forma proactiva su conciencia y responsabilidad a la hora de abordar y aplicar la IA, con el objetivo de crear contenidos de calidad y civilizados en lugar de difundir productos de mala calidad y ofensivos.

El Dr. Nguyen Van Son cree que la educación es la clave para limitar las violaciones éticas al utilizar IA (Foto: Personaje proporcionado).

Además, el Dr. Nguyen Van Son también cree que una de las estrategias a largo plazo para limitar las violaciones éticas en el uso de la IA es abordarla desde una perspectiva educativa. Según él, concienciar, ayudar a los usuarios a comprender su responsabilidad personal y construir una base ética en el uso de la tecnología es un factor clave que contribuye a la formación de una comunidad digital civilizada.

Muchos expertos no se limitan a advertir sobre el contenido "spam", sino que también han planteado reiteradamente la cuestión de los posibles peligros de las herramientas de inteligencia artificial generativa, especialmente la capacidad de crear vídeos, que pueden convertirse en una fuente de desinformación a gran escala.

La industria tecnológica lleva años lidiando con los peligros de los deepfakes. Pero la aparición de herramientas de video con IA cada vez más avanzadas es una clara advertencia de que vigilar el contenido generado por IA, y posteriormente por IAG, será cada vez más difícil», declaró Connor Leahy, director ejecutivo de Conjecture.

Compartiendo la misma opinión, la Sra. Nguyen Thi Trang, directora ejecutiva de Pisa Solutions Company Limited, enfatizó la importancia del pensamiento crítico en el contexto de una IA cada vez superior.

“No solo somos usuarios de IA, sino también receptores de una amplia gama de contenido generado por IA. Además de usar las herramientas de forma ética, cada persona debe practicar la capacidad de percibir la información desde múltiples perspectivas, ya que actualmente existen muchos vídeos creados por IA que parecen auténticos, pero que secretamente promueven contenido falso”, compartió la Sra. Trang.

Fuente: https://dantri.com.vn/cong-nghe/cu-luot-mang-lai-thay-video-hai-nham-do-ai-tao-ra-20250629181641265.htm