El profesor que "dio a luz" a la IA llega a Vietnam por primera vez para hablar sobre la ética de la IA.

El profesor Yoshua Bengio, uno de los científicos que sentó las bases para el desarrollo de la inteligencia artificial (IA), compartió sobre "Seguridad de la IA" en el marco del taller tecnológico de alto nivel "IA segura: dando forma a la innovación responsable" en la tarde del 5 de diciembre en Hanoi.

En el marco del evento, el profesor Yoshua Bengio dialogó sobre “IA responsable y la importancia de la IA en la educación ”, presenciando la ceremonia de lanzamiento del Comité de Ética de IA de la Asociación de Software y Servicios de Tecnología de la Información de Vietnam (VINASA).

El profesor Yoshua Bengio cree que lo más importante es que el desarrollo tecnológico debe ir de la mano con la protección de los derechos humanos y el desarrollo sostenible de la sociedad. La IA se está desarrollando rápidamente, la eficiencia del uso de datos ha aumentado un 30 %, el rendimiento de los algoritmos se ha triplicado, la inversión en este campo ha alcanzado un promedio de 100 000 millones de dólares anuales, y las evaluaciones estándar muestran que la capacidad de la IA ha superado la capacidad humana en el dominio del lenguaje y el procesamiento de datos.

Pero este rápido progreso plantea interrogantes inquietantes sobre la capacidad de controlar sistemas de IA más inteligentes que los humanos. En este contexto, surge una importante cuestión ética: ¿Quién decide los objetivos de la IA? La urgencia de comprender y actuar adecuadamente no es solo una responsabilidad, sino también una cuestión de supervivencia para el futuro de la humanidad.

Uno de los principios importantes propuestos por el profesor Yoshua Bengio es que la IA debe construirse como una herramienta al servicio de los humanos, no como "agentes" capaces de establecer sus propios objetivos y actuar para alcanzarlos, porque los objetivos de la IA pueden entrar en conflicto con las intenciones humanas originales o ir más allá de ellas.

Por lo tanto, según el profesor Yoshua Bengio, deberíamos evitar diseñar "instintos de supervivencia" para los sistemas de IA. Esto significa que no deberíamos diseñar sistemas de IA que sean como los humanos, con emociones, apariencia e incluso consciencia, autodeterminación y autonomía.

Un informe de 2023 sobre el Futuro del Trabajo, elaborado por el Foro Económico Mundial, indicó que para 2025, se prevé que la IA cree 12 millones de nuevos empleos a nivel mundial. Otro estudio de McKinsey también concluyó que la IA podría contribuir a la creación de entre 20 y 50 millones de nuevos empleos en todo el mundo para 2030.

Según Truong Gia Binh, presidente de FPT Corporation, la IA debería considerarse un aliado, no una amenaza que elimina empleos. Aprender y aplicar la IA es fundamental para mantenerse competitivo en el mercado laboral; esto incluye conocimientos básicos de IA, aprendizaje automático y ciencia de datos, así como habilidades analíticas y de resolución de problemas para trabajar eficazmente con sistemas de IA.

También en el marco del taller, VINASA anunció la creación del Comité de Ética de Inteligencia Artificial. El evento contó con la presencia del profesor Yoshua Bengio (Universidad de Montreal e Instituto Mila), líderes de VINASA y líderes de varias empresas miembro de VINASA.

La creación del Comité de Ética de Inteligencia Artificial demuestra los esfuerzos de Vietnam por construir un ecosistema de IA donde la innovación se desarrolle dentro de un marco ético, garantizando la competitividad global y protegiendo los valores sociales.

El Comité tiene la tarea de orientar la hoja de ruta de desarrollo de la IA de Vietnam, garantizar que la IA se implemente de forma ética, innovadora y para beneficio social, y promover un entorno legal favorable para la IA.

El profesor Yoshua Bengio es una de las personas más influyentes a nivel mundial en sentar las bases para que la IA se convirtiera en una tecnología práctica, ampliamente aplicada en campos como el procesamiento del lenguaje natural (PLN), la visión artificial, el aprendizaje automático y la robótica. En 1993, fundó el Instituto de Investigación en IA Mila, que contribuyó significativamente a convertir a Montreal (Canadá) en un centro global de tecnología de aprendizaje profundo.

Según VNA

Fuente: https://doanhnghiepvn.vn/cong-nghe/giao-su-khai-sinh-ai-lan-dau-sang-viet-nam-chia-se-ve-dao-duc-ai/20241206103838021