La IA está dando forma al futuro - Parte 2: Los desafíos que conlleva

El potencial conlleva riesgos

Es innegable que la inteligencia artificial (IA) se está convirtiendo cada vez más en una herramienta poderosa para apoyar a los trabajadores y facilitar la vida humana. Sin embargo, estos productos tecnológicos son como un arma de doble filo cuando son explotados por delincuentes para cometer fraudes y ataques en el ciberespacio.

En los boletines de alerta del Departamento de Seguridad de la Información ( Ministerio de Información y Comunicaciones ) o de la Asociación de Ciberseguridad, se citaron numerosos casos registrados de fraude mediante tecnología de IA. Por ejemplo, la Sra. Nguyen Thanh T, oficinista en Hanói, mientras chateaba con un amigo por Facebook Messenger, este se despidió y terminó la conversación, pero de repente volvió a enviarle mensajes de texto, pidiéndole dinero prestado y sugiriendo transferirlo a una cuenta bancaria. Aunque el nombre de la cuenta coincidía con el de su amigo, la Sra. T sospechó, por lo que solicitó una videollamada para verificarlo. Su amigo accedió de inmediato, pero la llamada solo duró unos segundos debido a la intermitencia de la red.

Al ver la cara de su amiga en la videollamada y que la voz era correcta, la Sra. T transfirió el dinero. Sin embargo, solo después de que la transferencia se realizó correctamente se dio cuenta de que había caído en la trampa del hacker.

No solo la Sra. T, sino muchas otras víctimas, amigos y familiares, también fueron estafadas de la misma manera. La cantidad de dinero que los delincuentes han estafado suplantando la identidad con la herramienta Deepfake y la voz ha alcanzado decenas de millones de dongs.

Otro ejemplo típico del uso de IA para apropiarse de activos es el caso de Mr. NTH. En un teléfono Android, los estafadores crearon una trampa con instrucciones para instalar un enlace malicioso. Desde allí, tomaron el control del teléfono y de las cuentas bancarias para transferir dinero a un tercero. Además, el malware contactaba automáticamente con la información de contacto disponible y enviaba mensajes automáticos solicitando transferencias de dinero.

El Sr. NTH afirmó que el impostor se hizo pasar por un " policía ", lo llamó a su número de teléfono y le pidió que verificara sus datos de identificación personal. Debido a su edad avanzada, su desconocimiento de la tecnología y su ingenuidad, la víctima le entregó su teléfono a un tercero para pedirle que siguiera las instrucciones del estafador, descargando e instalando así la aplicación maliciosa "DichVuCong.apk".

El Sr. Tran Nguyen Chung, Jefe del Departamento de Seguridad de Sistemas de Información (Departamento de Seguridad de la Información), afirmó: «Con el desarrollo de la tecnología de IA, detectar y distinguir entre contenido real y falso en el ciberespacio será más difícil, y cualquiera puede convertirse en blanco, víctima de ciberataques perpetrados por delincuentes que utilizan tecnología de IA. Sin embargo, convertirse o no en víctima depende de que cada persona cuente con los conocimientos y la información necesarios».

Este fraude tecnológico de IA no solo ocurre en Vietnam, sino también en muchos países del mundo. Actualmente, agencias, organizaciones y grandes corporaciones tecnológicas colaboran para encontrar medidas y soluciones técnicas que permitan detectarlo y prevenirlo desde la raíz.

En la actualidad, la medida importante es promover la propaganda, concientizar a la población sobre los métodos, trucos y maneras de reconocer y abordar esta sofisticada forma de falsificación para ayudar a reducir y limitar el impacto de las deepfakes en las actividades del ciberespacio. Emitir alertas proactivas en los medios de comunicación ante nuevos desarrollos y formas de fraude.

“En caso de recibir llamadas amenazantes con imágenes o videos sensibles, las personas deben mantener la calma, verificar e investigar cuidadosamente el origen de las imágenes y los videos”, dijo el Sr. Tran Nguyen Trung.

Según el informe de investigación “Identificando riesgos para la economía global en 2024”, de la Universidad de Economía (UEB) de la Universidad Nacional de Vietnam, Hanói, uno de los riesgos que afectan a la economía global es el riesgo en el sector tecnológico. El informe señala que, en el contexto del rápido desarrollo de la IA, las políticas de gestión no han podido seguir el ritmo de su desarrollo. La desinformación que proporciona la IA, especialmente en un año con numerosas elecciones a nivel mundial como este, ha planteado y sigue planteando numerosos problemas relacionados con la seguridad, la política, la defensa y la paz a nivel global.

En declaraciones a los periodistas del periódico Tin Tuc, el viceministro de Ciencia y Tecnología, Nguyen Hoang Giang, dijo: "El Primer Ministro emitió la Decisión No. 127/2021 sobre la estrategia nacional de investigación, desarrollo y aplicación de inteligencia artificial hasta 2030. Para implementarla, el Ministerio de Ciencia y Tecnología, así como otros ministerios y ramas, han estado implementando de manera drástica y sincrónica, como el Ministerio de Justicia, que investiga el aspecto legal. El Ministerio de Información y Comunicaciones, que investiga la tecnología digital. El Ministerio de Ciencia y Tecnología también ha apoyado, investigado y desarrollado la industria 4.0; ha investigado y aplicado el desarrollo de la tecnología de la información, al servicio del desarrollo de ciudades digitales e inteligentes. Sin embargo, con un desarrollo rápido y sólido, también han aparecido los aspectos negativos y los riesgos de la IA cuando se abusa de ella para convertirla en una herramienta para los ciberdelincuentes con fines de fraude, suplantación de identidad, amenazas, apropiación de propiedad, etc.

Hasta ahora, junto con la investigación, el Ministerio de Ciencia y Tecnología y el Gobierno también están construyendo activamente un marco legal, aprendiendo de las experiencias de otros países desarrollados para que el campo de la IA en Vietnam promueva su potencial, promueva el desarrollo y controle estrictamente, garantice la ética y la humanidad en el campo de la inteligencia artificial.

El rápido desarrollo de las herramientas de IA ha planteado numerosos problemas relacionados con los derechos humanos, la ética, la privacidad, la seguridad de la información y la responsabilidad legal. En comparación con el resto del mundo, Vietnam aún se encuentra en las primeras etapas del desarrollo de la IA. Por lo tanto, se necesitan regulaciones y políticas específicas de IA que se adapten a todos los aspectos de la vida, la economía y la sociedad vietnamita.

Emitir urgentemente un marco jurídico

La gestión del lado oscuro de la IA también es un tema de debate en algunos países. El Parlamento Europeo ha aprobado el primer conjunto de normas básicas del mundo para regular la inteligencia artificial. Muchos expertos en tecnología creen que este conjunto de normas ayudará a la UE a lograr ambos objetivos: minimizar el impacto negativo del desarrollo tecnológico en los usuarios y alcanzar la posición dominante de competidores clave en el mercado.

Poco después, la Asamblea General de las Naciones Unidas adoptó una resolución sobre inteligencia artificial (IA), brindando apoyo global a un esfuerzo internacional para garantizar que esta nueva tecnología beneficie a todos los países, respete los derechos humanos y sea “segura, protegida y confiable”.

El Sr. Vu Ngoc Son, Director Técnico de la Sociedad Anónima Nacional de Tecnología de Ciberseguridad, afirmó: «La IA es una tecnología que sirve a los intereses humanos, facilitando la automatización de diversas etapas operativas. Es una herramienta poderosa que se utiliza para diversos fines, como la prestación de servicios de preguntas y respuestas, la producción de software, etc. Sin embargo, la IA también presenta un lado negativo cuando cae en manos de actores maliciosos con el objetivo de crear contenido fraudulento y códigos maliciosos para atacar a los usuarios. Por lo tanto, la IA no es una herramienta específica para la creación de productos ni para la delincuencia, sino que la clave reside en cómo usarla».

“Creo que las sanciones y los corredores legales no han alcanzado el ritmo del desarrollo de la IA. Necesitaremos tiempo para desarrollar e implementar políticas que limiten los riesgos de la IA cuando se utiliza con fines maliciosos, afectando así los derechos humanos, la seguridad, el orden y la protección social”, afirmó el Sr. Vu Ngoc Son.

El Dr. Dang Minh Tuan, director del Instituto CMC ATI, afirmó: «Por un lado, debemos seguir investigando y desarrollando nuevas tecnologías, actualizar y estudiar estrategias para usar la IA con fines maliciosos. Por otro lado, también debemos promover la honestidad en la ciencia y el trabajo. Por consiguiente, es necesario adaptar e invertir en contenido y políticas específicas para esta herramienta en Vietnam. En particular, también podemos utilizar herramientas de IA para detectar contenido y código malicioso. La IA es como un arma de doble filo: crea un proceso de mejora continua con el objetivo final de servir a los intereses humanos».

Los expertos señalan que es necesario controlar el desarrollo de productos de alta tecnología de manera responsable, porque la incapacidad de regular y dominar la tecnología conducirá a consecuencias impredecibles, causando pérdidas a la economía y afectando a cada individuo así como a toda la sociedad.

La emisión de regulaciones específicas y transparentes no sólo ayudará a prevenir y minimizar los riesgos que pueda causar la IA, sino que también ayudará a Vietnam a atraer la atención y la inversión de las principales empresas tecnológicas del mundo, promoviendo el desarrollo de la industria nacional de tecnología de la información e IA.

Artículo final: Desarrollo paralelo y control de la IA

Fuente: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238