No permitamos que la IA amenace la supervivencia de la humanidad

Los "padrinos de la IA", ganadores del premio VinFuture 2024, creen que los científicos deben garantizar que los escenarios de IA no amenacen la supervivencia de la humanidad.

Hoy, 7 de diciembre, los ganadores del Premio VinFuture 2024 interactuaron con estudiantes y jóvenes científicos de la Universidad VinUni sobre investigación científica y las perspectivas de futuro en sus campos de estudio. Allí, los ganadores del premio principal, científicos destacados cuyos trabajos pioneros han sentado las bases de la revolución actual de la IA, hablaron sobre los asombrosos avances de la IA.

El profesor Yann LeCun (centro) y el profesor Yoshua Bengio (portada izquierda) en la sesión de intercambio

"Nos sentimos como si hubiéramos saltado 10 años hacia el futuro".

El profesor Geoffrey Hinton, de la Universidad de Toronto (Canadá), no viajó a Vietnam para recibir el premio, pero participó en el intercambio de videos . Él, el profesor Yann LeCun y el profesor Yoshua Bengio recibieron el Premio Turing (un galardón comparable al Premio Nobel en informática) en 2018 y la prensa internacional los considera "padrinos de la IA". Ahora, los tres siguen siendo reconocidos por VinFuture 2024 en el premio principal, junto con otros dos científicos: el profesor Fei Fei Li (EE. UU.) y el Sr. Jensen Huang (CEO de NVIDIA).

El reciente auge de la IA se debe a tres factores, afirma Hinton. En primer lugar, está el trabajo para desarrollar métodos más eficientes de aprendizaje para las redes neuronales, algo que él, Yoshua, Yann y muchos otros han hecho. Además, está la increíble velocidad de procesamiento de las unidades de procesamiento gráfico (GPU) y la enorme cantidad de datos que podemos recopilar.

El profesor Geoffrey Hinton comparte vía video

Un aspecto destacado de este premio (VinFuture 2024) es el reconocimiento a la labor del Sr. Jensen Huang, pionero en la creación de placas GPU útiles para la IA. La combinación de la placa GPU de Jensen Huang y los conjuntos de datos del profesor Fei Fei Li desempeñó un papel fundamental en el desarrollo moderno de la IA. Es excelente que su trabajo sea reconocido junto con el de quienes trabajan en algoritmos de redes neuronales, afirmó el profesor Hinton.

Descubrimos que, al usar GPU para entrenar redes neuronales, estas eran 30 veces más rápidas. Fue un salto cualitativo. Era como si la velocidad de computación se hubiera adelantado 10 años a su tiempo. De repente, estábamos 10 años por delante del futuro en términos de velocidad de computación. ¡Fue un punto de inflexión para la IA, fue asombroso!, dijo el profesor Hinton.

Los científicos siguen trabajando para comprender mejor las conexiones en las redes neuronales. Esto les permitirá crear una inteligencia artificial más parecida a la humana, capaz incluso de explicar la intuición. Los enfoques lógicos tradicionales jamás podrán lograrlo.

"Estoy empezando a tener miedo de la IA"

El profesor Hinton afirmó que las grandes redes neuronales actuales poseen una intuición similar a la de los humanos. El año pasado, empezó a preocuparse de que la IA pudiera tardar entre cinco y veinte años en ser tan inteligente como los humanos. "Fue entonces cuando empecé a preocuparme por la IA. Detener su desarrollo no es una opción. Por lo tanto, la única opción es intentar averiguar cómo garantizar su seguridad cuando se vuelva más inteligente que nosotros", compartió el profesor Hinton.

“Pero no creo que el fin del mundo sea inevitable”, dice el profesor Hinton. “Pero no se pueden ignorar las posibilidades, y debemos trabajar duro para prevenirlo. Esperemos que los estudiantes más talentosos opten por estudiar seguridad en IA, abordando una amplia gama de amenazas, desde amenazas a largo plazo, como la toma de control por parte de la IA, hasta amenazas a corto plazo, como la ciberdelincuencia”.

Profesor Yoshua Bengio y Profesor Yann LeCun

El profesor Yann Lecun afirmó que también le preocupa el riesgo de que la IA domine a los humanos cuando sea tan inteligente como ellos. Sin embargo, la respuesta actual aún no lo es. "Podemos perder jugando al ajedrez con un juguete pequeño que vale 30 euros. ¿Es peligroso? La respuesta es no. La IA solo se vuelve peligrosa cuando creamos motivación (para controlar a los humanos) para ella. Pero, por ahora, la IA solo tiene conocimiento, no motivación", afirmó el profesor Yann.

Según el profesor Yann, crear una IA que sirva activamente a los humanos es solo un problema técnico. Dado que la IA es inteligente, pensar que dominará a los humanos es un prejuicio, ya que la realidad demuestra que en la sociedad ha habido muchas personas inteligentes, pero no han dominado el mundo . La IA sigue siendo una herramienta; el problema está en los humanos, no en la IA.

Según el profesor Yoshua Bengio, no podemos ser subjetivos; un pequeño problema puede afectar la supervivencia de la humanidad. Los humanos pueden motivar a las máquinas. Por ejemplo, si alguien quiere convertir una máquina en un humano, haciéndola parecer que necesita "sobrevivir", queremos apagarla, pero se niega. "Por supuesto, debemos asegurarnos de que esa situación no se produzca", dijo el profesor Bengio.

Fuente: https://thanhnien.vn/vinfuture-award-2024-khong-de-ai-de-doa-su-ton-vong-cua-nhan-loai-185241207195331155.htm