Les « parrains de l’IA », lauréats du prix VinFuture 2024, estiment que les scientifiques doivent s’assurer que les scénarios d’IA ne menacent pas la survie de l’humanité.
Aujourd'hui, 7 décembre, les lauréats du prix VinFuture 2024 ont échangé avec des étudiants et de jeunes scientifiques de l'Université VinUni sur la recherche scientifique et les perspectives d'avenir de leurs domaines d'études. Les lauréats du prix principal, des scientifiques exceptionnels dont les travaux révolutionnaires ont jeté les bases de la révolution actuelle de l'IA, ont évoqué les avancées remarquables de cette technologie.
Le professeur Yann LeCun (au milieu) et le professeur Yoshua Bengio (couverture gauche) lors de la séance d'échange
« Nous avons l’impression d’avoir fait un bond de 10 ans dans le futur. »
N'étant pas venu au Vietnam pour recevoir le prix, le professeur Geoffrey Hinton, de l'Université de Toronto (Canada), a participé à l'échange vidéo . Lui, le professeur Yann LeCun et le professeur Yoshua Bengio ont tous trois reçu le prix Turing (une récompense comparable au prix Nobel d'informatique) en 2018 et sont tous deux qualifiés de « parrains de l'IA » par les médias internationaux. Aujourd'hui, tous trois continuent d'être honorés par VinFuture 2024 lors de la remise du prix principal, aux côtés de deux autres scientifiques, le professeur Fei Fei Li (États-Unis) et M. Jensen Huang (PDG de NVIDIA).
L'essor récent de l'IA résulte de trois facteurs, explique Hinton. Premièrement, les efforts visant à développer des méthodes d'apprentissage plus efficaces pour les réseaux neuronaux, un projet auquel lui, Yoshua, Yann et bien d'autres ont participé. Deuxièmement, la puissance de calcul incroyablement rapide des processeurs graphiques (GPU) et les vastes volumes de données que nous pouvons collecter.
Le professeur Geoffrey Hinton partage via vidéo
« L'un des aspects importants de ce prix (VinFuture 2024) est la reconnaissance du travail de M. Jensen Huang, pionnier dans la création de cartes GPU utiles à l'IA. L'association de la carte GPU de Jensen Huang et des données du professeur Fei Fei Li a joué un rôle important dans le développement moderne de l'IA. C'est formidable que leurs travaux soient reconnus aux côtés de ceux travaillant sur les algorithmes de réseaux neuronaux », a déclaré le professeur Hinton.
« Nous avons constaté que l'utilisation de GPU pour entraîner les réseaux neuronaux les rendait 30 fois plus rapides. C'était un véritable bond en avant. C'était comme si la vitesse de calcul avait dix ans d'avance. Soudain, nous avions dix ans d'avance sur l'avenir en termes de vitesse de calcul. Cela a complètement changé la donne pour l'IA, c'était incroyable ! », a déclaré le professeur Hinton.
Les scientifiques continuent de travailler à mieux comprendre les connexions au sein des réseaux neuronaux. Cela permettra de créer une intelligence artificielle plus proche de l'intelligence humaine, capable même d'expliquer l'intuition. Les approches logiques traditionnelles n'y parviendront jamais.
« Je commence à avoir peur de l'IA »
Le professeur Hinton a déclaré que les grands réseaux neuronaux actuels possèdent une intuition similaire à celle des humains. L'année dernière, il a commencé à s'inquiéter du fait qu'il ne faudrait que cinq à vingt ans pour que l'IA soit aussi intelligente que les humains. « C'est à ce moment-là que j'ai commencé à m'inquiéter pour l'IA. Arrêter le développement n'est pas une option. La seule solution est donc de trouver comment garantir sa sécurité lorsqu'elle sera plus intelligente que nous », a expliqué le professeur Hinton.
« Mais je ne pense pas que la fin du monde soit inévitable », déclare le professeur Hinton. « Mais les possibilités ne peuvent être ignorées, et nous devons travailler dur pour l'empêcher. Espérons que les étudiants les plus talentueux choisiront d'étudier la sécurité de l'IA, en abordant un large éventail de menaces, des menaces à long terme comme la prise de contrôle de l'IA aux menaces à court terme comme la cybercriminalité. »
Professeur Yoshua Bengio et Professeur Yann LeCun
Le professeur Yann Lecun s'est également dit préoccupé par le risque que l'IA domine les humains lorsqu'elle sera aussi intelligente que ces derniers. Cependant, la réponse actuelle n'est pas encore disponible. « On peut perdre aux échecs avec un petit jouet de 30 euros. Est-ce dangereux ? La réponse est non. L'IA ne devient dangereuse que si nous créons une motivation (pour contrôler les humains) pour l'IA. Mais pour l'instant, l'IA ne possède que des connaissances, pas de motivation », a déclaré le professeur Yann.
Selon le professeur Yann, créer une IA au service actif des humains n'est qu'un problème technique. Parce que l'IA est intelligente, penser qu'elle dominera les humains est un préjugé, car la réalité montre que dans la société, il y a eu beaucoup de personnes intelligentes, mais elles n'ont pas dominé le monde ! L'IA reste un outil, le problème vient des humains, pas de l'IA.
Selon le professeur Yoshua Bengio, la subjectivité est de mise : un simple problème peut compromettre la survie de l’humanité. Les humains peuvent insuffler de la motivation dans les machines. Par exemple, si quelqu’un veut transformer une machine en humain, lui donnant l’impression d’avoir besoin de « survivre », nous voulons l’éteindre, mais elle refuse. « Bien sûr, nous devons veiller à ce que ce scénario ne se produise pas », a déclaré le professeur Bengio.
Source : https://thanhnien.vn/vinfuture-award-2024-khong-de-ai-de-doa-su-ton-vong-cua-nhan-loai-185241207195331155.htm
Comment (0)