Desarrollar la rendición de cuentas es un factor importante para promover una IA cada vez más útil. Foto de la ilustración: Bloomberg. |
La IA generativa está transformando muchos campos. En educación , la IA facilita el aprendizaje, detecta el plagio y asiste en la docencia. En el ámbito médico, la IA facilita el diagnóstico por imágenes, la personalización de tratamientos y la investigación farmacológica. Esta herramienta también promueve la creación automatizada de contenido, facilita la atención al cliente y crea "líderes de opinión clave" virtuales en los ámbitos empresarial y de marketing.
Además de sus beneficios, la proliferación de la IA generativa también plantea preocupaciones éticas, ya que esta herramienta puede amplificar el sesgo y difundir desinformación. La IA también tiene el potencial de comprometer la privacidad, la seguridad de los datos y la estabilidad laboral.
Al igual que muchos países del mundo , Vietnam está emergiendo en la aplicación de la IA generativa. Para que la IA se convierta en una herramienta útil y no perjudicial para los humanos, su desarrollo responsable es una tarea crucial.
Tendencias de IA responsable
El Dr. Sam Goundar, profesor titular de Tecnología de la Información en RMIT Vietnam, recuerda algunas de las controversias en torno a la ética de la IA generativa, desde el escándalo pornográfico de Taylor Swift hasta la suplantación de identidad del expresidente estadounidense Joe Biden y el fraude académico mediante IA.
“Más preocupantes son los casos de chatbots que incitan al suicidio, crean contenido de abuso infantil, incitan a asesinatos, algoritmos de contratación sesgados o vulnerabilidades de seguridad explotadas por la IA.
Estas cuestiones resaltan la necesidad de un enfoque centrado en el ser humano para mitigar el uso indebido de la IA y proteger los intereses individuales y sociales”, afirmó el Dr. Goundar.
Pantalla de la herramienta Microsoft Copilot. Foto: Bloomberg. |
Según el Dr. Goundar, en 2025 se observará una tendencia hacia una IA responsable y centrada en el ser humano. Ante la creciente preocupación por el sesgo, la desinformación y los riesgos éticos, se prioriza la tecnología de IA transparente (XAI), que ayuda a los usuarios a comprender cómo la IA toma decisiones.
Varios países como Estados Unidos, Canadá, Australia, China, Japón, etc. han comenzado a adoptar regulaciones de IA para gestionar y garantizar una implementación ética de la IA en toda la industria.
Otra tendencia es la IA híbrida, un modelo que combina IA y humanos, que también podría desarrollarse en 2025.
En el ámbito del desarrollo sostenible, la IA puede contribuir a abordar el cambio climático y promover las tecnologías verdes. Además, ampliará sus aplicaciones en ciberseguridad, ayudando a mejorar la capacidad de analizar riesgos y responder a las amenazas en el ámbito digital.
“A medida que se acelera la adopción de la IA, garantizar una gobernanza responsable de la misma es esencial para optimizar los beneficios de la tecnología y reducir los riesgos potenciales”, enfatizó el Dr. Goundar.
Soluciones de desarrollo de IA responsable
Vietnam es uno de los países que innova activamente en el campo de la IA. Por lo tanto, garantizar un desarrollo ético de la IA es fundamental, evitando algoritmos de IA sesgados, riesgos para la privacidad y la pérdida de confianza pública.
Para desarrollar la IA de acuerdo con principios éticos, el Dr. Goundar propuso una serie de soluciones, como invertir en investigación sobre la ética de la IA y cooperar con las universidades para proporcionar un marco legal para la implementación responsable de la IA.
A continuación, se debería considerar integrar la ética de la IA en los programas universitarios y ampliar los programas de capacitación en IA para líderes empresariales, educadores y formuladores de políticas.
Promover la responsabilidad y la ética ayuda a que la IA se convierta en una herramienta útil para los humanos. Foto: Bloomberg. |
Concientizar al público también es importante, ayudando a individuos y empresas a comprender el impacto de la IA en la privacidad. Además, puede fomentar su aplicación con fines sociales como la salud , el medio ambiente y la educación, en lugar de centrarse únicamente en el lucro.
Además de la educación y la concientización, los marcos legales también juegan un papel importante en el sostenimiento del desarrollo responsable de la IA.
Los expertos de RMIT Vietnam propusieron una serie de soluciones, como aplicar regulaciones más estrictas sobre la IA, acercarse a los modelos internacionales de gobernanza de la IA, lanzar una certificación ética de la IA, así como construir un sistema de clasificación y auditoría de riesgos de la IA para evaluar y probar sistemas de alto riesgo.
“Si Vietnam aspira a convertirse en una potencia regional en IA para 2030, su éxito dependerá no solo del avance tecnológico, sino también de regulaciones sólidas, inversiones éticas en IA y concienciación pública para combatir los riesgos potenciales”, enfatizó el Dr. Goundar.
Fuente: https://znews.vn/xu-huong-ai-moi-cua-nam-2025-post1538816.html
Kommentar (0)