Méfiez-vous des images générées par l’IA lorsque la sécurité des informations est menacée

À l'ère du développement technologique rapide, la tendance à utiliser l'intelligence artificielle (IA) pour créer des images se répand sur les réseaux sociaux, attirant l'attention de nombreux utilisateurs, notamment les jeunes. Les photos créées par l'IA sont très créatives et servent à divertir, personnaliser le contenu et exprimer la personnalité. Cependant, cet attrait cache des risques potentiels pour la sécurité et la sûreté des informations.

Divertissement ou déclencheur potentiel ?

Selon la police de Hanoï , l'utilisation de l'intelligence artificielle (IA) pour créer des images a récemment pris de l'ampleur, attirant l'attention de nombreux utilisateurs. Bien que principalement à des fins de divertissement, la diffusion de ces images présente de nombreux risques potentiels, affectant directement la sécurité et la sûreté de l'information, notamment à l'occasion du 80e anniversaire de la Révolution d'août et de la Fête nationale du 2 septembre.

Actuellement, les utilisateurs peuvent facilement accéder à des images et les créer grâce à des logiciels d'IA, et les utiliser comme avatars, actualités et articles sur les réseaux sociaux tels que Zalo, TikTok, Facebook, etc. Cependant, si les utilisateurs ne sont pas prudents, politiquement insensibles et ne contrôlent pas les images générées par l'IA, ils risquent d'utiliser des images inexactes, comme une carte du Vietnam manquant d'informations sur les archipels de Hoang Sa et Truong Sa ; des images inadaptées aux Vietnamiens. L'utilisation de ces images inexactes aura un impact considérable sur l'opinion publique sur le cyberespace et peut fausser la perception des questions de souveraineté frontalière, ainsi que de l'histoire et des traditions culturelles nationales.

L'IA crée une image d'ao dai imprimée sur une carte du Vietnam, sans l'archipel de Hoang Sa et Truong Sa. (Photo : Police municipale de Hanoi)

À Hanoï, un utilisateur des réseaux sociaux a utilisé un logiciel d'IA pour créer la photo d'un ao dai avec une carte du Vietnam imprimée dessus, puis l'a publiée sur TikTok pour répondre à la tendance de la « fierté nationale ». Cependant, l'image créée par l'IA ne présentait pas les archipels de Hoang Sa et Truong Sa. La publication est rapidement devenue virale, attirant des milliers de vues et de partages, et a également suscité de vives réactions de la part de la communauté en ligne. Les autorités sont intervenues, exigeant le retrait du contenu et mettant en garde contre la diffusion de fausses informations liées à la souveraineté nationale.

Avertissement des autorités

Selon M. Vu Ngoc Son, directeur technique de la Société nationale vietnamienne de technologie de cybersécurité (NCS), l'IA et les applications basées sur l'IA ont récemment connu un développement fulgurant dans de nombreux domaines. ChatGPT est une application facilement accessible à la plupart des non-informaticiens, ce qui a rapidement créé un engouement.

Sur le plan technologique, ChatGPT ne constitue pas une avancée majeure par rapport aux autres technologies d'IA existantes. En revanche, en termes de données, ChatGPT a rencontré un franc succès grâce à son importante base de données dans de nombreux domaines, donnant aux utilisateurs le sentiment de tout savoir. C'est d'ailleurs ce qui fait l'attrait de ChatGPT jusqu'à présent.

En termes de sécurité, ChatGPT a été créé pour fournir un service de questions-réponses. Le principal risque réside donc dans le fait que le contenu des réponses de ChatGPT soit contrôlé ou « empoisonné » par quelqu'un pour inciter ChatGPT à fournir de fausses informations. Actuellement, rien ne prouve que ChatGPT puisse être attaqué, car les données d'entrée sont contrôlées, filtrées et même étiquetées par l'entreprise ; les risques mentionnés ci-dessus sont donc limités. Cependant, à l'avenir, avec le développement de ce service et la demande croissante de données d'entrée, les risques liés au contrôle des données exigeront des fabricants des mesures de sécurité plus strictes.

Les logiciels d'IA peuvent offrir de nombreux avantages, notamment la création d'images attrayantes et créatives, mais utilisés de manière irresponsable, ils peuvent devenir une arme à double tranchant. Le Département de la cybersécurité et de la prévention de la criminalité liée aux hautes technologies de la police municipale de Hanoï recommande :

1. Ne créez et n'utilisez absolument pas d'images de la carte du Vietnam ou d'images qui sont incorrectes, qui violent les réglementations légales ou qui sont incompatibles avec les traditions, les coutumes et la culture vietnamiennes.

2. Partagez régulièrement des informations d'alerte avec vos proches, vos amis et la communauté afin de les sensibiliser et de prévenir les complots et les ruses des forces hostiles. Ne laissez pas vos sujets profiter des événements politiques majeurs du pays pour commettre des actes illégaux.

3. Soyez prudent lorsque vous installez et utilisez des applications d’IA non vérifiées pour éviter le risque de voir vos données personnelles collectées.

4. Ayez un sens des responsabilités envers vous-même et la communauté lorsque vous participez à des activités sur les réseaux sociaux.

Les violations seront strictement traitées conformément aux dispositions de la loi.

En tant qu'utilisateur, chaque individu doit faire preuve d'un sens aigu des responsabilités lorsqu'il participe au cyberespace. « Saisir les tendances » ne doit pas se substituer à l'ignorance ou au soutien involontaire à des actes répréhensibles. Quant aux médias, leur mission ne consiste pas seulement à diffuser l'information, mais aussi à orienter l'opinion publique, contribuant ainsi à la protection de la vérité et des valeurs nationales.

Source : https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html