Uso de herramientas de IA para solucionar fallas de productos basados ​​en IA

Las noticias falsas se están volviendo más sofisticadas con la manipulación de la IA

Recientemente, en la reunión entre la Asociación de Periodistas de Vietnam y la Asociación de Periodistas de Tailandia celebrada en Hanoi, los liederes de las dos asociaciones pasaron la mayor parte del tiempo mencionando el problema de las "noticias falsas" y afirmaron que este ya no es un problema nacional sino un problema importante, que causa impactos impredecibles en la región y el mundo.

Según una investigación de Google DeepMind, la creación de imágenes, vídeos y audio que suplantan a humanos es casi dos veces más común que la creación de información errónea utilizando herramientas como los chatbots de IA.

En los últimos meses han aparecido en TikTok, la difusión podría influir en los votantes.

Una obra de arte falsa del primer ministro británico, Rishi Sunak, apareció en TikTok e Instagram antes de las elecciones generales. (Foto: AFP)

Al evaluar el impacto de las noticias falsas en la era tecnológica, el MSc. Luong Dong Son, profesor del Instituto de Periodismo y Comunicación de la Academia de Periodismo y Propaganda, afirmó que la combinación de IA y desinformación, también conocida como noticias falsas surrealistas, puede distorsionar la percepción pública de los acontecimientos y los problemas sociales, afectando así su forma de evaluar la situación y tomar decisiones. Esto puede tener graves consecuencias, desde pequeñas decisiones personales hasta decisiones importantes que afectan a la comunidad y al país.

Las noticias hiperfalsas pueden utilizarse como herramienta para manipular la opinión pública, incitar a la violencia, sembrar la división y socavar la estabilidad social. En el Ábito político, pueden erosionar la confianza en las instituciones democráticas, influir en los resultados electorales e incluso incitar al conflicto.

Respecto de los desafíos para los periodistas y las organizaciones de noticias, el MSc. Luong Dong Son dijo que la sofisticación de las noticias falsas surrealistas, especialmente las deepfake, hace que sea cada vez más difícil distinguir entre lo real y lo falso, incluso para periodistas experimentados.

En la era de la explosión informativa, el público exige cada vez más que los periodistas y las organizaciones de noticias proporcionen información con rapidez y precisión. Sin embargo, esta presión puede llevar a los periodistas a publicar información apresurada sin verificarla cuidadosamente, lo que crea oportunidades para la propagación de noticias falsas surrealistas. Además, los periodistas y las organizaciones de noticias enfrentan riesgos legales y éticos si no verifican y publican la información con cuidado, afirmó el Sr. Son.

Consiga que la IA verifique la información

Según el MSc. Luong Dong Son, para hacer frente a este tipo de noticias falsas, es extremadamente necesario aplicar soluciones tecnológicas modernas.

"Estas soluciones no solo se centran en detectar y eliminar noticias falsas, sino también en prevenirlas desde las primeras etapas de su producción", afirmó el MSc. Dong Son.

En primer lugar, una de las tecnologías más importantes hoy en gia, según el Sr. Son, es el uso de sistemas de inteligencia artificial para detectar noticias falsas. Loss system of IA modernos son capaces de analizar el contexto, comparar información de múltiples fuentes y detectar anomalías en el contenido informativo. Un ejemplo típico es el uso de IA para analizar vídeos e imágenes y detectar indicios de edición o producción mediante tecnología deepfake.

Además, las plataformas de redes sociales y los motores de susqueda también están implementando activamente algoritmos de aprendizaje automático para clasificar y filtrar automáticamente las noticias falsas antes de que se viralicen. Estos algoritmos están diseñados para reconocer anomalías en los patrones de publicación, la velocidad de propagación o incluso el tono de las publicaciones, evaluando así la probabilidad de que la información sea falsa.

Además, el uso de la tecnología blockchain para gestionar el origen de la información también es una posible solución. Blockchain tiene la capacidad de crear un sistema de autenticación transparente e inmutable, lo que ayuda a rastrear el origen y el historial de toda la información, garantizando así su precisión y confiabilidad.

La IA puede crear contenido falso o información e imágenes engañosas que son difíciles de distinguir, causando gran daño a la reputación de personas y organizaciones, e incluso perjudicando intereses nacionales y étnicos.

Compartiendo la misma opinión que el MSc. Luong Dong Son, el Sr. Phan Van Tu, jefe del Departamento de Periodismo - Facultad de Periodismo y Comunicación, Universidad de Ciencias Sociales y Humanidades, Ciudad Ho Chi Minh, enfatizó que, además de proporcionar habilidades para explotar las fortalezas de la IA para el periodismo, también necesitamos usar herramientas de IA para verificar la información.

La verdad es que la verdad es la verdad, la verdad es la verdad, la verdad es la verdad, la verdad es la verdad, la verdad es la verdad.

Curiosamente, ahora existen muchas herramientas integradas con IA que ayudan a los periodistas en el procedimiento de verificación, además de las herramientas tradicionales que apoyan a los verificadores de hechos, como Google Image, Tineye Reverse Image Search, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...

El Sr. Phan Van Tu confirma que la información sobre los periodistas es sobre la situación real y la información real es sobre el centro de la situación. "Usar herramientas de IA para gestionar errores relacionados con la IA es la manera más rápida de ayudar a los periodistas y las agencias de prensa no solo a desempeñar bien su función, sino también a contribuir a mejorar la calidad de la información ya proteger al público de la información falsa y el impacto negativo de los medios", afirmó el Sr. Tu.

Sin embargo, el Sr. Tu también señaló que la capacidad de los periodistas para evaluar la información no puede depender únicamente de herramientas. Cabe señalar de entrada que la IA puede respaldar el análisis del contenido informativo, pero no puede detectar todos los tipos de noticias falsas e información manipulada. El software de IA aún puede ser engañado por las mismas técnicas de IA que utilizan para detectar.

"Ninguna herramienta es una varita mágica, pero las herramientas de IA que detectan fotos y videos falsos siguen siendo un recurso valioso como parte de un proceso de verificación o un método de diligencia debida", afirmó Phan Van Tu.

Hoa Giang

Fuente: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html