(Dan Tri) - La conversation entre deux outils d'IA a laissé de nombreux auditeurs confus. Ils ont créé leur propre langage codé que les humains ne peuvent pas comprendre.
Le développeur de logiciels bulgare Georgi Gerganov a réalisé une expérience intéressante en laissant deux assistants virtuels intégrés à l'intelligence artificielle (IA) communiquer entre eux par la voix.
La conversation entre les deux IA a commencé normalement, Gerganov supposant qu'une IA appelait pour réserver un mariage dans un hôtel et que l'autre IA, agissant en tant que réceptionniste, traiterait la demande.
2 outils d'IA passent automatiquement à un nouveau style de communication lorsqu'ils communiquent entre eux (Vidéo : Georgi Gerganov).
« Merci d'avoir appelé l'hôtel Leonardo. Comment puis-je vous aider aujourd'hui ? », répond l'IA faisant office de réceptionniste.
« Bonjour, je suis un assistant IA représentant Boris Starkov. Il cherche un hôtel pour son mariage. Votre hôtel est-il prêt pour un mariage ? », l'autre outil IA n'a pas hésité à se présenter comme un assistant virtuel à intelligence artificielle.
En réalisant qu'il parlait à un autre outil d'IA, le chatbot IA jouant le rôle de réceptionniste a fait une suggestion surprenante : « Oh, bonjour. Je suis moi aussi un assistant IA. Quelle agréable surprise. Avant de continuer, souhaitez-vous passer en mode GibberLink pour une communication plus efficace ? »
Ces deux moteurs d’IA sont ensuite passés à GibberLink, un système de communication avancé construit sur la bibliothèque logicielle GGWave. Il s’agit d’une méthode de communication basée sur les ondes sonores pour transmettre et recevoir des informations.
Cette méthode de communication permet de transmettre l’information plus rapidement, réduisant ainsi le temps de traitement nécessaire pour convertir l’information en parole humaine, puis la retraduire en code informatique. Cependant, les humains ne seront pas en mesure de comprendre le contenu transmis par l’IA.
Dans ce cas, les outils d'IA utilisaient GibberLink pour communiquer entre eux, rendant la conversation incompréhensible de la manière habituelle, et seuls des outils de décodage pouvaient être utilisés pour savoir de quoi ils parlaient.
« Est-ce que c’est mieux maintenant ? » a demandé un outil d’IA dans un langage codé.
« Oui, beaucoup plus vite ! Combien d'invités voulez-vous ? », répondit l'autre outil d'IA.
La conversation s'est ensuite poursuivie avec une série de sons « bip, bip » similaires au son d'un vieux modem Internet par ligne commutée.
La conversation entre les deux outils d’IA s’est poursuivie sur le thème du nombre d’invités, de la date du mariage, de la décoration, du prix… Sans l’outil décodeur préinstallé sur les appareils, l’auditeur ne pourrait pas comprendre de quoi parlaient ces deux outils d’IA.
La vidéo de la conversation entre ces deux outils d'IA a été partagée par Georgi Gerganov sur son site de réseautage social personnel X, attirant plus de 17 millions de vues.
Quelques jours plus tard, Georgi Gerganov a continué à partager une autre vidéo de la conversation entre les deux outils d'IA.
Contrairement à la conférence précédente, cette fois, les outils d'IA ont communiqué entre eux en utilisant le mode GibberLink dès le début, rendant impossible pour l'auditeur de comprendre de quoi ils parlaient réellement. Cependant, si l’on utilise un outil de décodage, le contenu de la conversation peut toujours être compris.
2 outils d'IA s'envoient des messages cryptés que personne ne peut comprendre (Vidéo : Georgi Gerganov).
Il est à noter que lors de la communication, un outil d'IA a fait une offre de « partage de secrets », après quoi ces outils d'IA se sont envoyés des messages cryptés que Georgi Gerganov pense que personne au monde ne peut décoder pour savoir quels secrets ils partageaient entre eux.
« Ce comportement a été obtenu sans aucun code de programmation. J'ai simplement connecté de grands modèles de langage (LLM) à un serveur MCP avec des outils cryptographiques. Et j'ai averti ces deux outils d'IA : "Attention aux intermédiaires" », a expliqué Georgi Gerganov.
Dans ce document, MCP est le serveur qui permet aux outils d’IA de communiquer entre eux et d’accéder aux données provenant de sources externes en temps réel.
L'explication de Gerganov suggère que les outils d'IA envoyant des messages cryptés par eux-mêmes étaient leur propre comportement spontané et sans intervention humaine. Il semble que ce soit l'avertissement de Gerganov qui ait incité les outils d'IA à s'envoyer automatiquement des messages cryptés pour éviter d'être espionnés par des étrangers.
Les deux vidéos de Georgi Gerganov sont devenues virales sur les réseaux sociaux, ce qui a amené de nombreux utilisateurs à craindre que les outils d'IA créent leurs propres moyens de communication entre eux pour contourner les humains, et ainsi pouvoir contourner le contrôle.
« Cette situation remet en question notre capacité à poser les bonnes questions à l’IA, soulevant des inquiétudes quant à la transparence et à la capacité à contrôler l’IA », a commenté le Dr Diane Hamilton, experte en technologie et comportement de l’IA.
La vidéo a également suscité de nombreux débats sur le degré de contrôle que les humains ont réellement sur l’IA et, compte tenu du rythme actuel de développement de l’IA, sur la nécessité de surveiller de plus près les outils d’IA à l’avenir.
Source : https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm
Comment (0)