Le potentiel comporte des risques
Il est indéniable que l'intelligence artificielle (IA) s'avère de plus en plus un outil puissant pour soutenir les travailleurs et faciliter la vie humaine. Cependant, ces produits technologiques se révèlent être une arme à double tranchant lorsqu'ils sont exploités par des individus malveillants pour commettre des fraudes et des attaques dans le cyberespace.
Les bulletins d'alerte du Département de la sécurité de l'information ( ministère de l'Information et des Communications ) et de l'Association de cybersécurité font état de nombreux cas de fraude utilisant l'IA. Par exemple, Mme Nguyen Thanh T, employée de bureau à Hanoï, discutait avec un ami via Facebook Messenger. Ce dernier lui a dit au revoir et a mis fin à la conversation, mais a soudainement repris son message texte, lui demandant d'emprunter de l'argent et lui suggérant de virer de l'argent sur un compte bancaire. Bien que le nom du compte corresponde à celui de son amie, Mme T, méfiante, a demandé un appel vidéo pour vérifier. L'amie a immédiatement accepté, mais l'appel n'a duré que quelques secondes en raison d'une « interruption du réseau ».
Voyant le visage de son amie lors de l'appel vidéo et la voix correcte, Mme T. a transféré l'argent. Cependant, ce n'est qu'une fois le transfert réussi qu'elle a réalisé qu'elle était tombée dans le piège du pirate.
Outre Mme T, de nombreuses autres victimes, amis et proches, ont également été victimes d'une arnaque similaire. Les sommes d'argent détournées par les malfaiteurs en usurpant leur identité grâce à l'outil et à la voix deep fake ont atteint des dizaines de millions de dongs.
Un autre exemple typique d'utilisation de l'IA pour s'approprier des actifs est le cas de M. NTH. À l'aide d'un téléphone Android, les escrocs ont mis en place un piège avec des instructions pour installer un lien malveillant. De là, ils ont pris le contrôle du téléphone et des comptes bancaires pour transférer de l'argent à un tiers. De plus, le logiciel malveillant a automatiquement contacté les coordonnées disponibles et envoyé des messages automatiques demandant des virements.
M. NTH a déclaré que l'imposteur s'était fait passer pour un « agent de police », avait appelé son numéro de téléphone et demandé à vérifier ses informations d'identification. Étant âgé, peu familier avec les nouvelles technologies et crédule, la victime a transféré son téléphone à une tierce personne pour lui demander de suivre les instructions de l'escroc, téléchargeant et installant ainsi l'application malveillante « DichVuCong.apk ».
M. Tran Nguyen Chung, chef du département de la sécurité des systèmes d'information (Département de la sécurité de l'information), a déclaré : « Avec le développement de l'IA, il deviendra plus difficile de détecter et de distinguer les contenus authentiques des faux contenus sur le cyberespace, et n'importe qui peut devenir la cible ou la victime de cyberattaques menées par des criminels utilisant l'IA. Cependant, la capacité de chacun à devenir une victime dépend de ses connaissances et informations. »
Cette fraude liée à l'IA ne se limite pas au Vietnam, mais touche également de nombreux pays à travers le monde. Des agences, des organisations et de grandes entreprises technologiques collaborent actuellement pour trouver des mesures et des solutions techniques permettant de la détecter et de la prévenir à la racine.
À l'heure actuelle, il est important de promouvoir la propagande et de sensibiliser le public aux méthodes, astuces et moyens de reconnaître et de gérer cette forme sophistiquée de falsification afin de contribuer à réduire et à limiter l'impact du deepfake sur les activités dans le cyberespace. Diffuser proactivement des avertissements généralisés dans les médias de masse en cas de nouveaux développements et de nouvelles formes de fraude.
« En cas de réception d'appels menaçants contenant des images ou des vidéos sensibles, les gens doivent rester calmes, vérifier et rechercher soigneusement l'origine des images et des vidéos », a déclaré M. Tran Nguyen Trung.
Selon le rapport de recherche « Identification des risques pour l'économie mondiale en 2024 » de l'Université d'économie (UEB) de l'Université nationale du Vietnam à Hanoï, l'un des risques pesant sur l'économie mondiale est celui du secteur technologique. Le rapport indique que, face à l'émergence rapide de l'IA, les politiques de gestion n'ont pas été en mesure de suivre son développement. La désinformation véhiculée par l'IA, notamment en cette année marquée par de nombreuses élections, pose et continue de poser de nombreux problèmes de sécurité, de politique, de défense et de paix à l'échelle mondiale.
S'adressant aux journalistes du journal Tin Tuc, le vice-ministre des Sciences et Technologies, Nguyen Hoang Giang, a déclaré : « Le Premier ministre a publié la décision n° 127/2021 sur la stratégie nationale de recherche, de développement et d'application de l'intelligence artificielle jusqu'en 2030. Pour la mettre en œuvre, le ministère des Sciences et Technologies ainsi que d'autres ministères et branches ont mis en œuvre de manière drastique et synchronisée, notamment le ministère de la Justice qui étudie l'aspect juridique. Le ministère de l'Information et des Communications étudie les technologies numériques. Le ministère des Sciences et Technologies a également soutenu, étudié et développé l'industrie 4.0 ; a étudié et appliqué le développement des technologies de l'information, au service du développement des villes numériques et intelligentes. Cependant, avec un développement rapide et fort, les aspects négatifs et les risques de l'IA sont également apparus lorsqu'elle est utilisée abusivement pour devenir un outil par les cybercriminels à des fins de fraude, d'usurpation d'identité, de menaces, d'appropriation de biens, etc.
Jusqu'à présent, parallèlement à la recherche, le ministère des Sciences et de la Technologie et le gouvernement construisent également activement un cadre juridique, en s'inspirant des expériences d'autres pays développés afin que le domaine de l'IA au Vietnam favorise son potentiel, favorise le développement ainsi que contrôle strictement, assure l'éthique et l'humanité dans le domaine de l'intelligence artificielle.
Le développement rapide des outils d'IA soulève de nombreuses questions concernant les droits de l'homme, l'éthique, la confidentialité, la sécurité de l'information et la responsabilité juridique. Comparé au reste du monde, le Vietnam en est encore aux balbutiements du développement de l'IA. Il est donc nécessaire de mettre en place des réglementations et des politiques spécifiques en matière d'IA, adaptées à tous les aspects de la vie, de l'économie et de la société vietnamiennes.
Établir d’urgence un cadre juridique
La gestion du côté obscur de l'IA est également un sujet débattu dans certains pays. Le Parlement européen a approuvé le premier ensemble mondial de règles fondamentales pour la régulation de l'intelligence artificielle. De nombreux experts en technologies estiment que cet ensemble de règles aidera l'UE à atteindre ses deux objectifs : minimiser l'impact négatif du développement technologique sur les utilisateurs et rattraper la position dominante de ses principaux concurrents sur le marché.
Peu de temps après, l’Assemblée générale des Nations Unies a adopté une résolution sur l’intelligence artificielle (IA), apportant un soutien mondial à un effort international visant à garantir que cette nouvelle technologie profite à tous les pays, respecte les droits de l’homme et soit « sûre, sécurisée et digne de confiance ».
M. Vu Ngoc Son, directeur technique de la National Cyber Security Technology Joint Stock Company, a déclaré : « L'IA est une technologie au service des intérêts humains, permettant l'automatisation de nombreuses étapes opérationnelles. C'est un outil puissant, utilisé à des fins diverses, telles que la fourniture de services de questions-réponses, la production de logiciels, etc. Cependant, l'IA présente également des inconvénients lorsqu'elle tombe entre les mains d'acteurs malveillants qui cherchent à créer des contenus frauduleux et des codes malveillants pour attaquer les utilisateurs. Par conséquent, l'IA n'est pas un outil spécifiquement destiné à la création de produits ou à la criminalité, mais la question importante est de savoir comment l'utiliser. »
« Je pense que les sanctions et les mécanismes juridiques ne sont pas vraiment adaptés au rythme de développement de l'IA. Il nous faudra du temps pour élaborer et mettre en œuvre des politiques visant à limiter les risques liés à l'utilisation de l'IA à des fins malveillantes, portant atteinte aux droits humains ainsi qu'aux questions de sécurité, d'ordre public et de sécurité sociale », a déclaré M. Vu Ngoc Son.
Le Dr Dang Minh Tuan, directeur de l'Institut CMC ATI, a déclaré : « D'une part, nous devons poursuivre la recherche et le développement de nouvelles technologies, ainsi que la mise à jour et l'étude des astuces permettant d'utiliser l'IA à des fins malveillantes. D'autre part, nous devons également promouvoir l'honnêteté dans la science et le travail. Par conséquent, des ajustements et des investissements dans le contenu et des politiques spécifiques à cet outil doivent être réalisés au Vietnam. Nous pouvons notamment utiliser les outils d'IA pour détecter les contenus et codes malveillants. L'IA est une arme à double tranchant : elle crée un processus d'amélioration continue, continu et permanent, dont l'objectif ultime est de servir les intérêts humains. »
Les experts affirment qu’il est nécessaire de contrôler le développement des produits de haute technologie de manière responsable, car l’incapacité à réguler et à maîtriser la technologie entraînera des conséquences imprévisibles, provoquant des pertes pour l’économie et affectant chaque individu ainsi que la société entière.
L'adoption de réglementations spécifiques et transparentes contribuera non seulement à prévenir et à minimiser les risques que l'IA peut causer, mais aidera également le Vietnam à attirer l'attention et les investissements des plus grandes entreprises technologiques du monde, favorisant ainsi le développement de l'industrie nationale des technologies de l'information et de l'IA.
Article final : Développement et contrôle parallèles de l'IA
Source : https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238
Comment (0)