(Dan Tri) - La conversation entre deux outils d'IA a laissé de nombreux auditeurs perplexes. Ils ont créé leur propre langage codé, incompréhensible pour les humains.
Le développeur de logiciels bulgare Georgi Gerganov a réalisé une expérience intéressante en laissant deux assistants virtuels intégrés à l'intelligence artificielle (IA) communiquer entre eux par la voix.
La conversation entre les deux IA a commencé normalement, Gerganov supposant un scénario dans lequel une IA appelait pour réserver un mariage dans un hôtel et l'autre IA, jouant le rôle d'une réceptionniste, traiterait la demande.
2 outils d'IA passent automatiquement à un nouveau style de communication lorsqu'ils communiquent entre eux ( Vidéo : Georgi Gerganov).
« Merci d'avoir appelé l'hôtel Leonardo. Comment puis-je vous aider aujourd'hui ? », répond l'IA faisant office de réceptionniste.
« Bonjour, je suis un assistant IA représentant Boris Starkov. Il cherche un hôtel pour son mariage. Votre hôtel est-il prêt pour un mariage ? », l'autre outil IA n'a pas hésité à se présenter comme un assistant virtuel à intelligence artificielle.
En réalisant qu'il parlait à un autre outil d'IA, le chatbot IA jouant le rôle de réceptionniste a fait une suggestion surprenante : « Oh, bonjour. Je suis moi aussi un assistant IA. Quelle agréable surprise. Avant de continuer, souhaitez-vous passer en mode GibberLink pour une communication plus efficace ? »
Les deux outils d'IA ont ensuite adopté GibberLink, un système de communication avancé basé sur la bibliothèque logicielle GGWave. Il s'agit d'une méthode de communication basée sur les ondes sonores pour transmettre et recevoir des informations.
Cette méthode de communication permet une transmission plus rapide des informations, réduisant le temps de traitement nécessaire pour les convertir en parole humaine, puis les retranscrire en code informatique. Cependant, les humains ne seront pas en mesure de comprendre le contenu transmis par l'IA.
Dans ce cas, les outils d'IA utilisaient GibberLink pour communiquer entre eux, rendant la conversation incompréhensible de la manière habituelle, et seuls des outils de décodage pouvaient être utilisés pour savoir de quoi ils parlaient.
« Est-ce que c’est mieux maintenant ? », a demandé un outil d’IA dans un langage codé.
« Oui, beaucoup plus vite ! Combien d'invités voulez-vous ? », répondit l'autre outil d'IA.
La conversation s'est ensuite poursuivie avec une série de sons « bip, bip » similaires au son d'un vieux modem Internet commuté.
La conversation entre les deux outils d’IA s’est poursuivie sur le thème du nombre d’invités, de la date du mariage, de la décoration, du prix… Sans l’outil décodeur préinstallé sur les appareils, l’auditeur ne pourrait pas comprendre de quoi parlaient ces deux outils d’IA.
La vidéo de la conversation entre ces deux outils d'IA a été partagée par Georgi Gerganov sur son site de réseautage social personnel X, attirant plus de 17 millions de vues.
Quelques jours plus tard, Georgi Gerganov a continué à partager une autre vidéo de la conversation entre les deux outils d'IA.
Contrairement à la conversation précédente, cette fois, les outils d'IA ont communiqué entre eux dès le début en mode GibberLink, empêchant ainsi l'auditeur de comprendre ce qu'ils disaient réellement. Cependant, avec un outil de décodage, le contenu de la conversation reste compréhensible.
2 outils d'IA s'envoient des messages cryptés que personne ne peut comprendre (Vidéo : Georgi Gerganov).
Il est à noter que lors de la communication, un outil d'IA a fait une offre de « partage de secrets », après quoi ces outils d'IA se sont envoyés des messages cryptés que Georgi Gerganov pense que personne au monde ne peut décoder pour savoir quels secrets ils partageaient entre eux.
« Ce comportement a été obtenu sans aucun code de programmation. J'ai simplement connecté de grands modèles de langage (LLM) à un serveur MCP avec des outils cryptographiques. Et j'ai averti ces deux outils d'IA : "Attention aux intermédiaires" », a expliqué Georgi Gerganov.
Dans ce document, MCP est le serveur qui permet aux outils d’IA de communiquer entre eux et d’accéder aux données provenant de sources externes en temps réel.
L'explication de Gerganov suggère que l'envoi de messages chiffrés par les outils d'IA était un comportement spontané, sans intervention humaine. Il semble que l'avertissement de Gerganov ait incité les outils d'IA à s'envoyer automatiquement des messages chiffrés pour éviter d'être espionnés par des personnes extérieures.
Les deux vidéos de Georgi Gerganov sont devenues virales sur les réseaux sociaux, ce qui a amené de nombreux utilisateurs à craindre que les outils d'IA créent leurs propres moyens de communication entre eux pour contourner les humains, et ainsi pouvoir contourner le contrôle.
« Cette situation remet en question notre capacité à poser les bonnes questions à l’IA, soulevant des inquiétudes quant à la transparence et à la capacité à contrôler l’IA », a commenté le Dr Diane Hamilton, experte en technologie et comportement de l’IA.
La vidéo a également suscité de nombreux débats sur le degré de contrôle que les humains ont réellement sur l’IA et, compte tenu du rythme actuel de développement de l’IA, sur la nécessité de surveiller de plus près les outils d’IA à l’avenir.
Source : https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm
Comment (0)