Besoin urgent de contrôler le contenu de l'IA

Ces dernières années, l'intelligence artificielle (IA) s'est développée et améliorée à une vitesse vertigineuse, devenant un outil précieux dans de nombreux domaines. Veo3, une technologie de création vidéo utilisant l'IA récemment développée par Google DeepMind, est capable de créer des séquences réalistes. Outre les fonctionnalités utiles aux utilisateurs, cet outil présente également le risque d'être exploité par des individus malveillants à des fins frauduleuses.

Difficile de distinguer le vrai du faux

Selon le monde de la technologie, Veo3 a fait sensation à l'échelle mondiale grâce à sa fonctionnalité de création vidéo par IA, dont le niveau de réalisme surpasse tous les outils précédents. Contrairement à Sora d'OpenAI, qui se distingue uniquement par ses images mais est limité par son son, Veo3 synchronise parfaitement les images, les sons ambiants et les dialogues. Des bruits de pas au souffle du vent, en passant par les voix humaines et les effets d'ambiance, tout est parfaitement combiné, atteignant un niveau de réalisme tel qu'il est difficile pour les utilisateurs de distinguer les vidéos réelles de celles créées par l'IA.

Au Vietnam, Veo3 a rapidement créé l'engouement sur les réseaux sociaux tels que TikTok, Facebook et YouTube Shorts. Une série de vidéos avec le hashtag #veo3 a été partagée à une vitesse fulgurante, attirant des millions de vues et des centaines de milliers d'interactions. De nombreux clips créés par l'IA ont surpris la communauté en ligne par leur incroyable authenticité. Par exemple, une vidéo de 8 secondes avec un dialogue simple a atteint 5 millions de vues et plus de 308 000 mentions « J'aime ». Une autre vidéo montrant une femme âgée en train de faire frire des œufs, entièrement créée par l'IA, a également atteint plus de 2,6 millions de vues et plus de 104 000 mentions « J'aime ».

M. Tran Vinh Khang, employé de bureau dans le 1er arrondissement de Hô-Chi-Minh-Ville, a confié qu'il avait du mal à distinguer le vrai du faux, car le degré d'authenticité était trop élevé. « J'ai vu une vidéo d'un vendeur de poisson parlant à des clients au marché et j'ai cru que c'était vrai, tant l'image était nette. Sa façon d'agiter la main, de lever les sourcils, la lumière du soleil sur son visage… tout était si naturel qu'il était incroyable que ce soit une création de l'IA », a déclaré M. Khang.

Cấp bách kiểm soát nội dung AI - Ảnh 1. — Images dans le film créé par Veo3, les utilisateurs ont du mal à distinguer le vrai du faux

Bien qu'impressionnée, Mme Nguyen Mai Anh (habitante de Hô-Chi-Minh-Ville) a exprimé des inquiétudes quant à la sécurité des informations. « La vidéo créée par Veo3 est tellement réaliste qu'elle me met mal à l'aise. Si des individus malintentionnés utilisent cette technologie pour créer des vidéos visant à calomnier, diffamer ou falsifier des preuves, les conséquences seront très graves », a déclaré Mme Anh.

De nombreux utilisateurs vietnamiens s'intéressent particulièrement à l'accès et à l'utilisation de Veo3. Cependant, Veo3 n'a été officiellement déployé par Google qu'aux États-Unis, via l'abonnement Google AI Ultra, au prix de 249,99 USD/mois. Face à cette limitation, la communauté en ligne vietnamienne a trouvé un moyen de contourner cette barrière. De nombreux utilisateurs partagent des conseils sur l'utilisation d'un VPN pour changer d'adresse IP aux États-Unis, ce qui permet d'enregistrer un compte Google dans une région prise en charge et d'activer et d'utiliser Veo3 en tant qu'utilisateur local. Selon les experts en sécurité, il s'agit également d'une faille que des personnes malveillantes peuvent exploiter à des fins malveillantes.

Un cadre juridique nécessaire pour l'IA

M. Le Hong Duc, fondateur de OneAds Digital Company Limited, a déclaré que les produits générés par l'IA, tels que les vidéos, les images ou les voix, atteignaient un niveau de réalisme étonnant et pouvaient même être directement mis en production et commercialisés. Cette explosion présente des avantages évidents en termes de coûts et de temps, mais peut être exploitée pour diffuser de fausses informations ou semer la confusion dans l'opinion publique. Face à la complexité croissante des modèles d'IA, le contrôle des contenus devient urgent, d'autant plus que la technologie a largement dépassé la vitesse de mise à jour des lois en vigueur.

Par conséquent, M. Duc a suggéré l'urgence d'élaborer une loi spécifique à l'IA, définissant clairement les responsabilités de ceux qui créent et partagent des contenus IA. La diffusion de contenus erronés et préjudiciables doit être strictement sanctionnée et sanctionnée. Parallèlement, les autorités doivent établir des critères pour limiter les contenus que les utilisateurs sont autorisés à créer avec l'IA et exiger des labels clairs. En cas de mauvaise mise en œuvre, les utilisateurs devront en assumer la responsabilité juridique et être indemnisés pour tout préjudice causé. « Il est extrêmement urgent d'adopter un cadre juridique spécifique à l'IA afin de contrôler cette technologie en pleine expansion, de contribuer au maintien d'un environnement numérique sain et de prévenir des conséquences telles que la fraude, les violations éthiques ou les actes d'insulte », a souligné M. Duc.

Outre les préoccupations juridiques, un expert en sécurité informatique a indiqué que le développement exceptionnel de Veo3 suscite également des inquiétudes chez les créateurs de contenu, notamment dans des domaines comme le cinéma, la télévision et l'animation, qui risquent d'être progressivement remplacés par l'IA, ce qui représente un défi majeur pour la protection des carrières et des droits d'auteur dans l'industrie créative. « Il est nécessaire de compléter rapidement la réglementation sur les droits de propriété intellectuelle pour les contenus générés par l'IA, car l'IA est désormais capable de produire des produits très réalistes. Dans le cas contraire, les créateurs risquent de perdre leur emploi en raison de la vague d'œuvres virtuelles qui inonde le marché », a déclaré l'expert.

Méfiez-vous des faux services

Depuis l'explosion de Veo3, de nombreux comptes se présentant comme des « experts en IA » ont commencé à partager des vidéos de démonstration, des instructions pour accéder à Veo3 ou à vendre des comptes et des services d'assistance à des prix allant de 200 000 à 300 000 VND sur les réseaux sociaux. Certains utilisateurs ont déclaré y avoir accédé et l'avoir essayé avec succès, mais tous n'ont pas pu en faire l'expérience. M. Le Hong Duc a mis en garde les utilisateurs contre les services contrefaits ou non officiels et a recommandé d'attendre le déploiement officiel de Veo3 par Google sur le marché vietnamien afin d'éviter toute fraude financière, vol de données ou prise de contrôle des comptes Google.

Comment (0)